После переезда в Париж перед супругами Зарубиными встал вопрос о месте постоянного проживания. Их выбор пал на живописный городок Сен-Клу в предместье французской столицы. Здесь они сняли небольшой меблированный домик, стоявший на горе, а машину держали в коммерческом гараже. Однажды, когда Василий по договоренности с владельцем гаража ремонтировал свою машину, француз, наблюдавший за его работой, предложил ему войти с ним в пай, чтобы расширить дело. Василий обещал подумать, отметив, что у него нет разрешения на постоянное проживание в стране. Француз заметил, что это не проблема, поскольку у него хорошие связи в местной полиции и он запросто уладит этот вопрос.
Спустя некоторое время супруги Зарубины получили в местной мэрии постоянный вид на жительство во Франции и стали компаньонами владельца автомобильного гаража. В дальнейшем он познакомил Василия и Лизу со своими многочисленными знакомыми, принадлежавшими в основном к мелкой буржуазии. Обрастание нейтральными связями способствовало легализации разведчиков в стране. Настало время приступать непосредственно к разведывательной работе. Но для этого разведчикам необходимо было переехать в столицу. А это означало, что Василию нужно было подобрать нового надежного компаньона, с помощью которого можно было бы вести все коммерческие дела уже в Париже. И такой компаньон нашелся. Вместе с ним Зарубину удалось создать небольшую рекламную фирму.
В Париже Василий Михайлович и Елизавета Юльевна прожили четыре года. Там же у супругов родился сын Петр. В течение этого времени Зарубины не порывали связи с владельцем гаража в Сен-Клу, который вместе с семьей часто навещал их и очень лестно отзывался о них в кругу своих знакомых.
Вначале фирма Зарубина делала рекламу на кулинарные темы. Затем перешла на изготовление кинорекламы — плакатов, изображающих кинозвезд в полный рост, которые выставлялись около кинотеатров, где демонстрировались кинофильмы с их участием. Связь с известными киностудиями и прокатными компаниями создала предприятию хорошее имя. На счет фирмы стали поступать средства из различных городов Франции. Позднее фирма начала делать рекламу на экспорт, что поощрялось французскими властями, поскольку это способствовало притоку иностранной валюты в страну. Солидность фирмы позволила Василию стать членом одного из ведущих спортивных клубов, что создавало хорошие условия для ведения разведывательной работы.
Занимаемое Зарубиным солидное положение во Франции не вызывало каких-либо подозрений к нему со стороны местных спецслужб. Разведчик пользовался авторитетом во французских деловых кругах и сумел наладить получение информации, касающейся внутренних и международных проблем.
Однако основная задача, поставленная Центром перед нелегальной резидентурой Зарубина, заключалась в сборе информации по Германии. Выполняя ее, Зарубин завербовал французского журналист-антифашиста, стенографистку германского посольства, технического секретаря одного из депутатов французского парламента. От этих источников на постоянной основе поступала информация, представлявшая большой интерес для Центра.
Разведчики-нелегалы Зарубины активно работали и по белогвардейской эмиграции. В частности, в Париже они поддерживали связь с ценным агентом ОГПУ, бывшим царским генералом Павлом Павловичем Дьяконовым, который в прошлом занимал пост военного атташе России в Англии, а в 1920 году переехал на жительство во Францию и имел широкие связи в русской военной эмиграции. Он выполнял задания по разложению крупнейшей белогвардейской организации — Русского общевоинского союза (РОВС), который насчитывал в своих рядах более двадцати тысяч активных сторонников, и готовил вооруженные акции против СССР и его представителей за рубежом. Генерал также снабжал Центр информацией о деятельности французской военной разведки.