Пара поженилась 6 мая 1875 года, младшая дочь Маркуса Голдмана, Луиза, служила подружкой невесты. После церемонии Лёбы устроили пышный прием. Ужин из семи блюд, приготовленных во французском стиле, за исключением сорбета для очищения вкуса, состоял из устриц и тушеного террапина, кальмара и каплуна, ягненка и фуа-гра. После того как гости наелись до отвала, официанты вынесли десять видов десерта, включая ананасовое желе, ромовый торт, бонбоны и наполитен.
Поздравительные телеграммы сыпались из Цинциннати и Франкфурта. Клара Шифф, которая могла не одобрить прием, поскольку меню было некошерным, прислала свои «самые искренние поздравления». Младший брат Шиффа, Герман, прислал телеграмму: «Долгое «ура» новой паре». Генри Бадж и Лео Леманн, его старые партнеры, телеграфировали: «Гип-гип ура». А Лоэб из Цинциннати написал: «Пусть вы будете счастливы, а доход от ваших облигаций увеличится».
Соломон Лоэб подарил молодоженам дом на Восточной 53-й улице, 57, где 3 февраля 1876 года после тяжелых трехдневных родов родился их первенец, дочь Фрида. «Я не могу обещать вам ни матери, ни ребенка», — сказал Шиффу исхудавший врач во время напряженных родов. Время рождения Фриды — менее чем через девять месяцев после их свадьбы — дало повод для пересудов о том, когда был зачат ребенок. Шиффа это не забавляло. «Вскоре после моего появления на свет, — вспоминала Фрида, — мой отец заехал к бабушке и дедушке… и друг Лёбов, пытаясь пошутить, сказал: «Я хочу поздравить вас с подходящим именем, которое вы дали своему ребенку — Фрю-Да», что в переводе с немецкого означает «раннее появление»». «Мой отец больше никогда не разговаривал с этим человеком».
Шифф мог быть добрым, отзывчивым и щедрым — его сострадательная филантропия стала основой его наследия, — но он также был вспыльчивым и неуступчивым. У него была патологическая тяга к контролю, и он не стеснялся брать его на себя. «Все его боялись», — говорит Дэвид Шифф, правнук Джейкоба. «Он был строг и требователен».
И Шифф, и Лоэб были очень целеустремленными людьми, но не было никаких сомнений в том, кто из них обладает более доминирующей личностью. Лоэб вызывал уважение. Шифф внушал благоговение. Его центр тяжести был сильнее, чем у окружающих, — люди вращались вокруг него, нравилось им это или нет. Из-за его огромного присутствия и маленького роста его невестка позже окрестила его «Маленьким гигантом».
Недавно женившийся двадцативосьмилетний парень стал доминировать в семейной жизни клана Лоэбов, которым он навязывал свои консервативные религиозные убеждения. Соломон был агностиком, а Бетти исповедовала весьма либеральную форму иудаизма. Но чтобы угодить зятю и, соответственно, дочери, Лоэбы выполняли все предписания. Они посещали храм, зажигали шабатние свечи по вечерам в пятницу. И хотя члены семьи подчинялись его требованиям, они возмущались тем, что племянник Джеймс П. Варбург назвал «прозелитической религиозностью Шиффа».
По словам его внука Эдварда Варбурга, Шифф читал членам семьи лекции об их религиозных обязанностях, но у него «похоже, были свои правила». Каждое утро он молился, частично на немецком, частично на иврите, завершая ежедневное богослужение благоговейным поцелуем пары выцветших фотографий своих родителей (Клара Шифф умерла в 1877 году), которые он хранил в маленьком потертом конверте в своем бумажнике. В отличие от своих родственников и многих друзей из немецко-еврейской общины Нью-Йорка, Шифф строго соблюдал субботу. «Он избегал всех светских дел в это время», — вспоминал однажды его друг Луис Маршалл, выдающийся адвокат. «Он никогда не прикасался к бумаге в день, который считал священным, за исключением одного случая, когда нужно было написать телеграмму, призванную принести облегчение жертвам русского погрома.»
И хотя Шифф воспитывался в ортодоксальной традиции в кошерной семье, он делал вид, что соблюдает диетические законы, которые он «соблюдал… с некоторыми вопиющими исключениями — омары и бекон каким-то образом проникали в дом под проволокой», — вспоминал Эдвард Варбург. Иными словами, Шифф не соблюдал кошерность.
Вечером в пятницу семья собиралась, взявшись за руки, вокруг субботнего стола, на котором стояли фотографии недавно ушедших родственников, и Шифф произносил молитву собственного сочинения: Бог наш и Отец, Ты даешь пищу каждому живому существу. Ты не только дал нам жизнь, но и даешь хлеб насущный для ее поддержания. Продолжай благословлять нас милостью Твоей, чтобы мы могли делиться своим изобилием с теми, кому повезло меньше, чем нам. Да будет благословенно имя Твое во веки веков. Аминь.