Колоссальный размах получает педагогическая деятельность Гольденвейзера после победы Великой Октябрьской социалистической революции. В 30-х годах он возглавляет одну из кафедр консерватории. Многие его ученики становятся в это время лауреатами всесоюзных и международных конкурсов: Г. Гинзбург, Р. Тамаркина, А. Каплан, Л. Левинсон, Д. Осипов; другие получают известность в различных областях музыкальной культуры (разносторонность, весьма характерная для школы Гольденвейзера!) —достаточно назвать композитора Д. Кабалевского, органиста Л. Ройзмана, методиста и историка фортепианного искусства А. Д. Алексеева, историка музыки Н. В. Туманину, певицу Ф. Петрову... Плодотворна педагогическая работа Александра Борисовича и в послевоенный период, когда из его класса выходят такие талантливые музыканты, как Т. П. Николаева, Д. А. Башкиров, Л. Н. Берман. К этому времени трудно найти город или область нашей огромной страны, где на музыкальном поприще не трудились бы пианисты, педагоги, не связанные так или иначе со школой Гольденвейзера, — будь то его собственные ученики (несмотря на огромное число, всех их Александр Борисович помнил досконально) или ученики его учеников, многих из которых он также хорошо знал, ласково называя своими «музыкальными внуками». Особенно тесные контакты установились у Александра Борисовича с музыкантами Закавказья, куда он в течение ряда лет ездил в качестве председателя Государственной экзаменационной комиссии; многие тбилисцы п бакинцы окончили впоследствии по его классу Московскую консерваторию: Н. Чиковани, Э. Эксанишвили, М. и Р. Чхеидзе, Р. Ходжава, Н. Габуния, Ф. Кулиева, Н. Усубова и ряд других.
Поучительной особенностью Гольденвейзера-педагога было умение помочь исполнительскому развитию учащегося буквально на всех этапах: в его классе были представлены ученики самых разных возрастов — от 7—8-летних детей до аспирантов, обычно вполне зрелых музыкантов. Весьма поучительно, что Александр Борисович отдавал все свои силы, все педагогическое мастерство в равной мере и школьникам, и студентам, и аспирантам. Такая многогранность, универсализм в педагогике, выделявшие Александра Борисовича среди многих его коллег, особенно поучительны в наше время, когда типичным стало достаточно узкое профилирование музыкально-педагогической деятельности.
«К чему я стремился и стремлюсь в своей педагогической работе? — спрашивал Гольденвейзер в статье „Мой творческий путь“. — Я стараюсь научить своих учеников работать и уметь достигать положительных результатов в работе с максимальной экономией сил; стараюсь воспитать в них уважение не только к своему искусству, но и к своему ремеслу и помочь им стать прежде всего культурными музыкантами. Главное же, к чему я стремлюсь, это сохранение индивидуальности ученика; тщательно избегая опасности стричь всех под одну гребенку».
Когда задумываешься о сущности педагогического метода Гольденвейзера, невольно приходишь к заключению: главным учителем исполнительского мастерства ему удавалось сделать саму музыку. Именно поэтому такое внимание уделял он пониманию учениками всех намерений автора, запечатленных в нотном тексте произведения. Некоторые из таких намерений могут быть зафиксированы достаточно точно, например звуковысотные соотношения (с учетом устойчивого строя фортепиано); однако Гольденвейзер всегда подчеркивал неизбежную приблизительность большинства компонентов нотной записи, оставляющей простор для бесчисленных вариантов при превращении знаков в звуки, уточнений темпов, нюансировки, агогики, штриховых тонкостей фразировки. Здесь уже речь шла не о простой добросовестности выполнения, но о глубоком комплексном изучении различных обозначений для верного понимания и воплощения авторского замысла. При этом подчеркивалось, что сама приблизительность записи является отнюдь не признаком ее несовершенства, но лишь закономерным следствием самой специфики музыки как вида искусства, невозможности существования ее вне интонирования, причем — что особенно драгоценно — интонирования всякий раз в чем-то иного, неповторимого. Постоянно подчеркивал Гольденвейзер ответственность посредничества исполнителя, важность максимально бережного отношения его ко всем авторским указаниям, стремления донести то, что хотел сказать слушателям сам композитор; поэтому же так страстно восставал он против «выпячивания» пианистом собственного «я», недооценки объективно существующих закономерностей произведения.