Еще более крупную постройку Иван Иванович осуществил в самом центре Москвы. Идущая от Красной площади торговая Ильинская улица (ныне ул. Куйбышева) упиралась в массивную каменную башню с воротами Китайгородской стены (не сохранились). На участке между стеной и стоящей на Ильинке очень богатой по своему архитектурному убранству церковью Николы большой крест XVII в. (не сохранилась) Северное страховое общество решило построить комплекс доходных зданий конторского и торгово-складского назначения. На объявленный Московским архитектурным обществом конкурс было подано 22 проекта. Весной 1909 г. жюри присудило одну из двух первых премий авторам проекта под девизом «Центр» — петербургскому архитектору М. М. Перетятковичу и И. И. Рербергу. Решая задачу сочетания новых, отвечающих эстетическим требованиям начала XX в. зданий с сооружениями прошлого, авторы акцентировали торцы зданий, выходящие на Ильинку, высокой башней с куполом-ротондой. Был удачно использован весь участок, предусмотрен удобный внутриквартальный проезд между пятиэтажными корпусами, соединенными переходом на уровне четвертого и пятого этажей. В процессе подготовки и осуществления строительства, в котором принимал участие архитектор В. К. Олтаржевский, И. И. Рерберг значительно доработал проект с целью достижения большей четкости и отточенности архитектурного облика в формах нового для того времени стиля — неоклассицизма, на который он возлагал большие надежды. Ритм крупных оконных проемов определил характер фасадов. Существенная роль в их формировании принадлежит отдельным деталям и лепным украшениям. Это была одна из типичных попыток сочетать приемы проектирования, характерные для начала XX в., с архитектурными формами первой трети XIX в., свободно их видоизменяя. Строительство зданий было завершено в 1911 г. Куранты на башне были хорошо видны над уступом башни Ильинских ворот со стороны площади и сквера. Как отмечалось в издававшемся тогда ежегоднике «Архитектурная Москва», «по монументальности и красоте это одно из лучших произведений современной московской архитектуры». Здесь сейчас помещается Комитет народного контроля СССР и другие советские и партийные органы.
В формах русского ампира, характерных для пушкинского времени, Рерберг разработал и осуществил по заказу Общества поощрения трудолюбия проект здания женской гимназии (до сих пор сохранился проектный макет здания). Пропорции и детали фасада, интерьеры здания, возведенного в 1911—1912 гг. в Большом Казенном переулке (ныне пер. А. Гайдара, средняя школа № 330), отличаются изяществом.
Из других построек Рерберга этого времени отметим красивый бывший особняк Н. В. Урусова на Новокузнецкой улице, 12, торговый пассаж, существовавший на месте нового здания ЦУМа, двухэтажное здание Московско-Брестского технического железнодорожного училища возле Белорусского вокзала, трехэтажное здание ремесленного училища на 1-й Миусской улице, которое в настоящее время входит в состав корпусов Московского химико-технологического института имени Д. И. Менделеева, инфекционные корпуса Московского военного госпиталя в Лефортове и др.
Ежегодник «Архитектурная Москва» писал в 1911 г.: «Иван Иванович Рерберг принадлежит к группе сравнительно молодых, но очень популярных строителей». Начиная с 1910 г. на всех проектах подпись Рерберга была первой, что соответствует его ведущей творческой роли среди соавторов. В отличие от гражданских инженеров, именовавшихся также инженерами-архитекторами, Иван Иванович несравненно глубже знал строительные конструкции и особенности их работы, а также ориентировался в технике строительного производства. Поэтому он смело применял железобетон и другие современные материалы, умело используя заложенные в них потенциальные возможности архитектурного формообразования.
В творчестве И. И. Рерберга ценили четкость и глубину проработки объемно-планировочных решений, умение вписаться в городской ансамбль. Эпоха, породившая разброд в архитектурно-стилевых вопросах, наложила отпечаток на творчество талантливого мастера, хотя он и сумел оградить себя от крайностей и бесплодных творческих увлечений, но его поиски в основном связаны с развитием неоклассицизма.