В ходе работы Клейн неоднократно ездил за границу для изучения европейских художественных музеев и памятников, консультировал план московского музея с крупнейшими авторитетами в области археологии и музееведения — В. Дёрпфельдом, А. Каввадиасом, В. Боде, Г. Треем и другими, заказывал в Афинах модели деталей Эрехтейона, по которым создавал колоннаду главного фасада ("самый обширный классический портик в России").
На протяжении пятнадцати лет строительства архитектор имел постоянные контакты с членами комитета по устройству Музея изящных искусств — архитектором Ф. О. Шехтелем, художниками В. Д. Поленовым, В. М. Васнецовым, П. В. Жуковским, учеными Н. П. Кондаковым и В. К. Мальмбергом, В. С. Голенищевым и Б. А. Тураевым, В. В. Стасовым и Н. И. Романовым и другими. Совместная работа связывала Клейна с военным инженером И. И. Рер-бергом, архитекторами Г. А. Шуваловым и П. А. Заруцким, художником И. И. Нивинским, который расписывал интерьеры, и т. д. Клейн поддерживал самые тесные контакты с крупнейшими строительными фирмами, как отечественными ("Мюр и Мерилиз", "Г. Лист", «Готье», "Строительная контора инженера А. В. Бари", "Чаплин и Залесский", «Брусов», и т. п.), так и заграничными, поставлявшими мрамор и зеркальные стекла, бригады камнерезов и штукатуров. Кирпичные стены музея возводили тверские и владимирские крестьяне-артельщики, обрабатывали фундамент из финляндского гранита петербургские каменщики, штукатурили здание итальянские рабочие, обрабатывали мраморные детали, профилировали колонны итальянцы-камнерезы. Белый мрамор для облицовки фасада добывался на Урале, цветные мраморы для отделки интерьеров везли из Венгрии и Греции, Бельгии и Норвегии. Здание музея, по словам Цветаева, "строилось на века".
Такого размаха не знало ни одно строительное предприятие, с которым был связан Клейн. "Я вполне понимаю Ваше увлечение этим великим делом Вашей жизни, — писал архитектору Цветаев. — Это чудное здание и грядущее художественное учреждение способны овладеть всеми силами души, составляя для его творца и отраду, и гордость, и предмет самой чистой и сильной любви. Я вполне понимаю, что Вы сюда уходите, сюда возвращаетесь от других Ваших работ, имеющих характер прозаический сравнительно с этим кругом поэтических Ваших архитектурных мечтаний, полетов и грез".
В основном своем объемно-пространственном решении здание музея строилось как бы изнутри, снаружи этот прием выявлялся системой «врастающих» друг в друга архитектурных форм. Конструктивное понимание внутреннего пространства, его динамики и импульсивного движения позволяло архитектору сообщить облику музея подвижность, трансформировать художественный образ его в зависимости от требований момента. "В архитектурной композиции, — писал Клейн в своем "Руководстве к архитектуре", — порядок проявляется в расположении здания. При этом исходят от внутреннего ядра, от сердца распланировки, доводят до развития внутренний организм и скелет здания, одевают последний, вырисовывают в перегибах, в главных частях и обряжают внешний вид посредством расчленения и украшений. Такой прием ведет к цельности организма, к единству в архитектуре… мы имеем перед собой не конгломерат отдельных, случайно нагроможденных кусков, а неделимое целое".
В соответствии с этими общими принципами, широко применяемыми в строительной практике архитекторами московской школы рубежа XIX–XX веков, построено и здание Музея изящных искусств.
"Последнее сооружение, — сообщала Академия художеств, представляя Р. И. Клейна к званию академика и награждая золотой медалью, — своими необычно обширными размерами, сложностью и разнообразием архитектурных задач, строгостью присвоенного Московским университетом классического (греко-римского) стиля и монументальностью строительных материалов займет одно из первых мест в Москве, составя ее украшение на долгое время".
Затянувшееся на многие годы строительство здания вызывалось не только грандиозностью решаемых научных и художественных задач, но и главным образом финансовой стороной дела. Музей создавался в основном на частные средства так называемых благотворителей. В общей сумме его стоимости, достигшей около 2,5 миллиона рублей, государственная субсидия составляла только 200 тысяч, а вклад мецената Ю. С. Нечаева-Мальцева превышал 2 миллиона. Цветаев вкладывал в музей все свои скромные средства, вплоть до «детского» капитала. Клейн годами не получал жалованья, жил доходами от других своих построек и также отдавал музею все, что мог, переживая судьбу этого сооружения, как свою личную.