Евзель Гинцбург обладал редким политическим чутьем, которое и привело его впоследствии к грандиозным финансовым достижениям. Осознавший ранее других обреченность откупного капитала и неизбежность капитализации России, он весьма прозорливо сделал ставку на либералов, находившихся тогда в опале – наладил деловые и финансовые связи с великим герцогом Александром Гессенским, братом жены наследника престола. Когда же на российский престол взошел Александр II, его реформы в значительной мере вдохновлялись супругой – Марией Гессенской, и фаворит ее брата Евзель Гинцбург сразу попал в круг людей, которые стали создавать «инфраструктуру новейшей экономики».
Но вот откупа заменили правительственной винной монополией, и многие откупщики пошли по миру. Но только не Гинцбург! Взамен откупов он стал создавать в России частную банковскую систему: сначала Частный коммерческий киевский банк, затем Учетный одесский банк и Санкт-Петербургский учетно-ссудный банк. Наконец, в 1859 г. Евзель совместно с сыном Горацием основал в столице банкирский дом «И.Е. Гинцбург» – крупнейший в России, с филиалом в Париже (под руководством его другого сына – Соломона). Через некоторое время «И.Е. Гинцбург» стал головным петербургским банком, вытеснившим с денежного рынка знаменитый банк барона А.Л. Штиглица. Банкирский дом Гинцбурга работал в тесной связи с ведущими банками Западной Европы («Варбург» в Гамбурге, «Мендельсон», «Блейхредер» в Берлине, «Де Габер» во Фракфурте-на-Майне, «Госкье», «Камондо» в Париже и др.). Он стал главным кредитным мостом, через который деньги иностранных инвесторов вкладывались в российскую экономику. Неоценима его роль и в развитии отечественных кредитно-акционерных банков.
Банкирскому дому «И.Е. Гинцбург» всегда была свойственна исключительная надежность, что выгодно отличало его от других коммерческих предприятий, руководствовавшихся известным принципом: «не обманешь – не продашь». А потому в то время, когда десятки частных банков, разоряя вкладчиков, лопались, как мыльные пузыри, дело Гинцбурга неуклонно росло и ширилось. Его банкирский дом финансировал золотопромышленные предприятия на Урале и Забайкалье, был владельцем акционерного общества цепного пароходства по реке Шексне и т. д. Евзель становится сказочно богат: владеет крупнейшими имениями в Бессарабии, Киевской, Подольской и Таврической губерниях.
Значительную часть времени семья Гинцбургов проводила в Париже, где в 1870 г. Евзелем был построен собственный отель на улице Тильзит. Они жили открыто, и их хлебосольный дом скоро сделался средоточием всех русских – ученых, писателей, художников, волею судеб оказавшихся во Франции. Завсегдатаем у Гинцбургов был находившийся тогда в Париже И.С. Тургенев. Здесь часто бывали живописец А.П. Богомолов, поэт Н.М. Минский и многие другие. Был образован Художественный клуб, где встречались деятели русской культуры, и Евзель Гавриилович был единогласно избран председателем этого клуба.
Особую заботу проявлял Гинцбург об образовании своих детей, для чего пригласил лучших парижских ученых и педагогов. Среди них преподаватель французского языка М. Мапу, известный музыкант и музыковед Ж. Массне, специалист по классической филологии Л. Лаббэ, историк Г. Грэц, литератор и профессор еврейского языка С. Мунк и др.
Судьба единоверцев всегда волновала Евзеля Гинцбурга, а на гребне собственного финансового успеха, когда открылись большие возможности для оказания им помощи, – особенно. Последовательно и методично он бомбардирует власть предержащих прошениями об улучшении положения евреев. Евзеля можно было бы с полным основанием назвать «штадланом», то есть авторитетным представителем еврейской общины перед правительством, но лишь с одной существенной оговоркой: он делал это по велению сердца, хотя быть таким ходатаем его никто не уполномочивал. Более того, многие из предлагаемых им мер вовсе не поддерживались большинством еврейского населения черты оседлости, полностью отгороженного от современной российской жизни и не желавшего никаких новаций. «Лучи света почти не проникали в темное подполье еврейских гетто городов и местечек..., – говорит об этом историк Г.Б. Слиозберг, – все казалось окаменелым в духовной жизни еврейства... Мистические настроения отвлекали духовных мечтателей-евреев от печальной действительности... [Они уходили в область] внутреннего созерцания, – созерцания мистического, если речь идет о хасиде; созерцания чисто духовно-умственного, схоластически-сухого, если речь идет о миснагде».