Кроме того, археология Москвы оказалась неполноценной, так как из-за бурного развития столицы СССР стала заложницей ее городского хозяйства. Конечно, так обстояло дело с археологией во многих мировых центрах, но своеобразие жизни социалистического мегаполиса усиливало эффект. Строительство шло слишком быстро, и ученым оставалось только фиксировать ход разрушений. Это плохо сочеталось с методами археологических работ, требующих спокойной обстановки и протяженности во времени. В давно замерших Суздале, Ростове или Переславле, а тем более на давно погибших городищах культурный слой меньше поврежден, а работать несравненно удобнее: нет многометровой толщи техногенного балласта, не надо применяться к срокам вечно опаздывающих строителей и противостоять мертвящим запретам администрации. Понятно поэтому, что внимание археологов вскоре сосредоточилось на более древних и лучше сохранившихся городах, особенно Новгороде, где было больше возможностей для крупных исторических открытий, вскоре и сделанных. В Москве же период «героического штурма» 1930-х годов сменился долгими годами затишья, когда археологические материалы целиком уходили в отвалы строек и не интересовали почти никого. Затем грянула война, и во вторую половину XX столетия московская археология вступила, так и не начав регулярных раскопок.
Впрочем, Михаила Григорьевича в довоенный период эти вопросы еще не волновали — он, как сам пишет, участвовал в раскопках других городов и собирался стать историком или этнографом. К раскопкам в Москве он пришел только после Великой Отечественной войны, когда в археологии произошел ряд важных изменений. В политике сталинизма явственно обозначился великодержавный шовинистический акцент, в силу которого изучение национального наследия, в том числе археологическое, воспринималось уже как проявление патриотической активности. Кроме того, подогревался интерес к Москве как столице СССР, началась подготовка празднования ее 800-летия. Наконец, в послевоенный период из Ленинграда в Москву переместился, в ходе общей централизации управления наукой, академический Институт истории материальной культуры (позже археологии), на который, естественно, ложилась ответственность за раскопки: археологическое прошлое Москвы не должно было уступать ее блестящему настоящему и фантастическому будущему.
В этих условиях и началось создание специальной структуры — Московской археологической экспедиции ИИМК, руководителем которой в первый период ее существования и стал Михаил Григорьевич. Начало было очень удачным: удалось провести первые научные послойные раскопки у церкви Никиты Мученика, на мысу при впадении реки Яузы в реку Москву — в одном из мест, где предполагалось древнейшее поселение города, легендарная ранняя Москва — «Кучково». На этом мысу планировалось строительство высотного здания, так что раскопки имели и охранную цель. Ученик А. В. Арциховского и М. Н. Тихомирова, Рабинович смог организовать на Яузе образцовые с точки зрения методики раскопки: впервые в Москве культурный слой открывали достаточно методично, пласт за пластом. Впервые же было изучено кладбище XVI в. (ученые середины XX в. обычно этими материалами пренебрегали). Наконец, на Яузе была впервые открыта и часть большого района керамического производства Москвы, ее Гончарной слободы.
Следующим крупным «полевым проектом», начатым Михаилом Григорьевичем в Москве, стали широкие раскопки в Зарядье. Их необходимость была вызвана начинавшейся безумной «очисткой» этого древнейшего района города под строительство гостиницы «Россия». Впрочем, Рабиновичу удалось проработать в Зарядье лишь первые сезоны: начавшаяся кампания борьбы с «космополитизмом» прервала его быстро и успешно развивавшуюся карьеру археолога Москвы. А затем случилось то, о чем говорилось выше, — он был уволен из Института по причине «несовместимости» его фамилии с должностью руководителя археологических работ в Москве. Борьба за справедливость ни к чему не привела, да и не могла, разумеется, в тогдашних условиях привести. Раскопки в Москве, кстати, были приостановлены на несколько лет. Рабинович, в общем, «легко отделался». Если не считать таких «пустяков», как отстранение от любимого дела и понижение зарплаты в несколько раз.