Иосиф был готов ассимилироваться, и он поставил черту на отказе или сокрытии своего еврейства. И он принял свою роль одного из самых выдающихся евреев страны (некоторые называли его «королем евреев»), хотя отнюдь не был набожным. Его интерес к религии был в основном интеллектуальным. Будучи начитанным человеком, который перед сном пролистывал страницы греческой классики — Горацио Алгер, семейный воспитатель, вспоминал, что Селигман каждый день заканчивал «поглощенный деловыми заботами в восхитительном общении с мастерами литературы и науки», — Джозеф наслаждался религиозными и философскими дебатами. По воскресеньям, когда они с Бабеттой собирались в своем доме на Западной 34-й улице, Джозеф любил приглашать гостей с разными взглядами, чтобы оживить разговор за обеденным столом. Он считал друзьями Генри Уорда Бичера, видного конгрегационалистского священника (и брата Гарриет Бичер-Стоу), а также полковника Роберта Ингерсолла, юриста и популярного оратора, известного своими агностическими взглядами. Не раз он принимал у себя обоих мужчин, стратегически грамотно подбрасывая провокационную тему и откидываясь на спинку кресла во главе стола, чтобы принять участие в острой риторической перепалке, завязавшейся между его гостями.
По своим убеждениям Джозеф был ближе к Ингерсоллу, чем к Бичеру, его иудаизм был скорее культурным, чем духовным, но он оставался яростно преданным своему народу, используя свое политическое и общественное влияние для привлечения поддержки еврейских дел и благотворительных организаций. В течение многих лет он был попечителем больницы Маунт-Синай, которая изначально называлась Еврейской больницей, когда была основана в 1852 году для лечения еврейского населения Нью-Йорка, которое в некоторых случаях сталкивалось с дискриминацией в городских христианских больницах. Он также возглавлял Немецко-еврейское благотворительное общество, в равной степени как общественное, так и благотворительное, которое проводило банкеты и гала-концерты для сбора средств, распределяемых среди различных еврейских организаций. В числе благотворительных акций общество снабжало углем обедневшие семьи иммигрантов и иногда предоставляло им средства, чтобы продолжить миграцию на малонаселенный Запад и из перенаселенного Нью-Йорка, где более состоявшиеся и ассимилированные евреи опасались, что их новоприбывшие единоверцы — необразованные и без гроша в кармане, ютившиеся в полуразрушенных домах Нижнего Ист-Сайда, — могут вызвать антисемитские настроения.
Группа Селигмана отделилась от более старой благотворительной организации, Еврейского благотворительного общества. Этот раскол отражал более серьезные разногласия между немцами и остальной частью еврейской общины Нью-Йорка, особенно сефардами (евреями, ведущими свою родословную с Пиренейского полуострова), которые доминировали в руководстве благотворительной организации. Раскол был основан отчасти на религии, а отчасти на классовой принадлежности. Немцы привезли с собой в Америку реформистский иудаизм — противоречивое религиозное движение, зародившееся в храмах Берлина и Франкфурта. Европейские евреи все чаще жили за пределами гетто, в которые их загоняли на протяжении многих поколений, все больше и больше проживая среди христиан, а в некоторых случаях теряя связь со своей верой или переходя в христианство. Реформистское движение считало, что для выживания иудаизма необходимо адаптировать традиционные обряды к современным условиям. «Все, что делает нас смешными перед нынешним миром, можно и нужно отменить», — отмечал один видный реформистский раввин. Реформистские евреи не покрывали головы ермолками. Они не соблюдали диетические законы. Они проводили свои службы на немецком, а не на иврите. В некоторых случаях они не обрезали своих сыновей. Такие практики были кощунственны для ортодоксальных евреев — таких, как отец Якоба Шиффа, — которые считали, что реформаторы до неузнаваемости опошляют их религию. Нью-йоркские евреи-сефарды, чьи корни в городе уходят в те времена, когда остров Манхэттен еще был голландской колонией, были обеспокоены либеральными религиозными практиками немцев. Их также отталкивала показная роскошь немецких нуворишей. Для них Джозеф Селигман навсегда остался бы простым торговцем.