В деятельности Третьякова-коллекционера прослеживается внимание прежде всего к творчеству современных ему художников реалистического направления середины и второй половины XIX века – передвижников, представителей демократического крыла отечественной школы, что определило своеобразие собрания галереи, влияние этого собрания на развитие реалистического искусства, его прогрессивное, революционизирующее общественно-воспитательное воздействие. Но в 1860-е годы, когда Товарищества передвижных художественных выставок еще не было, Третьяков покупал картины официальной академической школы, а с конца 80-х годов – произведения М. В. Нестерова, К. А. Коровина, В. А. Серова и других. Тогда же Третьяков начал собирать графику, в 90-х годах – иконы.
У Третьякова был безошибочный вкус. Он не боялся покупать произведения молодых, еще неизвестных художников. Об особенностях собирательства Павла Михайловича свидетельствует и тот факт, что многие работы для галереи были выполнены по его собственному заказу. И ни тогда, ни сегодня эти работы не разочаровывают самых требовательных ценителей отечественного искусства ни своей проблематикой, ни художественными достоинствами. Он покупал произведения, даже если против выступали очень сильные и уважаемые авторитеты вроде Л. Н. Толстого, не признававшего религиозной живописи В. М. Васнецова. Покупал даже те картины, которые были запрещены царскими властями для публичного обозрения.
Одной из таких картин стал «Сельский крестный ход на Пасхе» В. Г. Перова. На фоне хмурого деревенского пейзажа разворачивается нестройное пьяное шествие с образами и хоругвями после праздничной пасхальной службы. С жестким реализмом Перов передает не столько физическое, сколько духовное убожество этих людей. Картина произвела на современников убийственное впечатление контрастом между смыслом обряда и тем почти животным состоянием, до которого может опуститься человек. «Сельский крестный ход на Пасхе» вызвал протест официальной критики и церкви, картина была снята с выставки Общества поощрения художеств, запрещена к показу и воспроизведению. Купившему ее Павлу Михайловичу Третьякову художник В. Г. Худяков писал: «…слухи носятся, что будто бы Вам от св. Синода скоро сделают запрос, на каком основании Вы покупаете такие безнравственные картины и выставляете публике?»
Павел Михайлович приобретал картины на выставках и непосредственно в мастерских художников, иногда покупал целые собрания: в 1874 году приобрел туркестанскую серию В. В. Верещагина (13 картин, 133 рисунка и 81 этюд), в 1880-м – его же индийскую серию (78 этюдов). В собрание Третьякова входило свыше 80 этюдов А. А. Иванова. В 1885 году Третьяков купил 102 этюда В. Д. Поленова, выполненных художником во время путешествия по Турции, Египту, Сирии и Палестине. У В. М. Васнецова Павел Михайлович приобрел собрание эскизов, сделанных в период работы над росписями в киевском Владимирском соборе. Наиболее полно и лучшими работами оказались представлены в его собрании В. Г. Перов, И. Н. Крамской, И. Е. Репин, В. И. Суриков, И. И. Левитан, В. А. Серов. Попутно шло пополнение галереи произведениями художников XVIII – первой половины XIX столетия и памятниками древнерусской живописи. Этот героический период русского искусства можно понять, прочувствовать и изучить в Москве, в «Третьяковке» так, как нигде больше.
Все художники, молодые и уже знаменитые, мечтали, чтобы их картина висела в Третьяковской галерее, потому что уже сам факт покупки картины Павлом Михайловичем был актом общественного признания таланта художника. Так один удивительный человек смог повлиять на все русское живописное искусство и стать выразителем общественного мнения России.
Огромная историческая заслуга Третьякова – это его непоколебимая вера в торжество русской национальной школы живописи, вера, возникшая в конце 50-х годов XIX столетия и пронесенная им через всю жизнь, через все трудности и испытания. Можно с уверенностью сказать, что в наступившем в конце XIX века триумфе русской живописи личная заслуга П. М. Третьякова исключительно велика и неоценима.
В письмах Павла Михайловича сохранились свидетельства этой его горячей веры. Вот одно из них. В послании к художнику Риццони от 18 февраля 1865 года он писал: «В прошедшем письме к Вам может показаться непонятным мое выражение: "Вот тогда мы поговорили бы с неверующими" – я поясню Вам его: многие положительно не хотят верить в хорошую будущность русского искусства и уверяют, что если иногда какой художник наш напишет недурную вещь, то как-то случайно, и что он же потом увеличит собой ряд бездарностей. Вы знаете, я иного мнения, иначе я не собирал бы коллекцию русских картин, но иногда не мог не согласиться с приводимыми фактами; и вот всякий успех, каждый шаг вперед мне очень дороги, и очень бы был я счастлив, если бы дождался на нашей улице праздника». И примерно через месяц, возвращаясь к той же мысли, Третьяков писал: «Я как-то невольно верую в свою надежду: наша русская школа не последнею будет – было, действительно, пасмурное время, и довольно долго, но теперь туман проясняется».