Первоначально собрание Павла Михайловича Третьякова размещалось в небольшом двухэтажном доме Третьяковых в Лаврушинском переулке. Быстрое пополнение коллекции побудило владельца задуматься о сооружении специального музейного здания. В 1872–1874 годах к дому была сделана первая пристройка специально для музея, а в дальнейшем, по мере увеличения коллекции, Павел Михайлович трижды расширял свою галерею. Так в старом замоскворецком переулке выросло одно из первых в России специализированных зданий для размещения художественного собрания.
Для посетителей музей открылся в 1881 году. Вход был бесплатным, полотна разрешалось копировать. В одном зале соседствовали картины разных художников и разных эпох, иногда они висели в пять-шесть рядов: коллекционер никогда не держал произведения в запасниках. Работы художников не делились на главные и второстепенные: каждая из них считалась уникальной. Павел Михайлович знал в галерее все вплоть до последнего гвоздя, которым холст прибивался к подрамнику. Он сам покрывал картины лаком и выполнял первые реставрации.
Давно мечтавший о превращении личной коллекции в общенациональное достояние, П. М. Третьяков в августе 1892 года (после смерти брата Сергея) решил передать свою коллекцию в дар Москве. В том же году, выполняя волю умершего брата, он присоединил к этому дару и его собрание русской и западно-европейской живописи. По описи в коллекции Сергея Михайловича Третьякова, сделанной в 1892 году, значилось 75 картин западно-европейских художников, 8 рисунков, а также несколько картин и скульптур русской школы. Она была перевезена в Лаврушинский переулок и первоначально размещалась в одном из залов, а в 1898-м выставлена в двух специально для нее пристроенных залах. В 1925 году картины в основном были переданы в Музей изящных искусств, несколько – в Эрмитаж.
Третьяков обратился в городскую думу с просьбой принять его подарок. «Озабочиваясь, с одной стороны, скорейшим выполнением воли моего любезнейшего брата, а с другой – желая способствовать… процветанию искусств в России и вместе с тем сохранить на вечные времена собранную мною коллекцию, ныне же приношу в дар Московской городской думе». 15 сентября 1892 года дума приняла дар, присвоив галерее имя братьев Третьяковых. Дар коллекционера (1287 живописных произведений, 518 рисунков, 9 скульптурных работ русских художников, 75 картин и 8 рисунков французских и немецких художников) был оценен в один миллион четыреста двадцать девять рублей, что по тем временам считалось огромным состоянием. Это был внушительный итог 35-летнего собирательства. 15 августа 1893 года «Московская городская галерея имени братьев Третьяковых» торжественно открыла свои двери.
Стоит несколько слов сказать и о брате Павла Михайловича – Сергее Третьякове. При жизни этот человек был куда известнее и намного богаче своего брата, никогда не стеснял себя в средствах. Сергей Михайлович был известным московским общественным деятелем, старшиной купеческого сословия (1863–1867 годы), городским головой (1877–1881 годы). «За отличную и усердную службу» ему был пожалован чин статского советника, а за устройство в Москве Всероссийской промышленно-художественной выставки в 1882 году – чин действительного статского советника. Сергей Михайлович оказывал всяческое содействие благоустройству Москвы. Он жертвовал крупные суммы на детские приюты, больницы, училища, выкупил для города из казны Сокольничью рощу. Состоял членом московского отделения Русского музыкального общества (в 1869–1889 годах был его председателем), Московского художественного общества. В 1881–1887 годах на свои средства издавал «Художественный журнал». Участвовал в подготовке Всероссийской художественно-промышленной выставки 1882 года в Москве. В юности увлекался музыкой, брал уроки пения; близким другом братьев Третьяковых был Н. Г. Рубинштейн. Согласно его завещанию значительная сумма (125 тысяч рублей) шла на расширение коллекции брата.
Условий дарения Павел Михайлович Третьяков назвал несколько: он пожизненно остается попечителем галереи и продолжит пополнение собрания картин, а галерея должна быть «открыта на вечное время для бесплатного обозрения всеми желающими».
Дар братьев Третьяковых родному городу явился событием огромной важности и для Москвы, и для культурной жизни всей страны. Современники по достоинству оценили его, откликнувшись множеством приветствий создателю музея. К открытию галереи был приурочен 1-й Всероссийский съезд художников. Передвижники, творческие искания которых Третьяков самоотверженно поддерживал многие годы, писали в адресе собирателю: «Весть о Вашем пожертвовании давно уже облетела Россию и во всяком, кому дороги интересы русского просвещения, вызвала живейшую радость и удивление значительности принесенных Вами на его пользу усилий и жертв».