По существу предоставленный самому себе, он прогуливал уроки, вместо консерватории посещал каток, и только редкие способности давали возможность успешно справляться с заданиями по музыкальным предметам. Общеобразовательные же были запущены безнадежно. Через три года положение стало настолько серьезным, что мать обратилась за советом к двоюродному брату Рахманинова, двадцатидвухлетнему известному уже музыканту А. Зилоти. Тот оценил выдающееся дарование кузена и порекомендовал отправить его в Москву к непревзойденному детскому фортепианному педагогу Н. Звереву, у которого когда-то учился сам.
В 1885 году двенадцатилетнего мальчика перевели в Московскую консерваторию — на четвертый курс младшего отделения. Он учился и жил у Зверева, который учил мальчиков и воспитывал их, поселив в своем доме не только на время учебного семестра, но и в каникулы. Существовал строгий распорядок дня, за которым следила сестра Зверева. Часы занятий на единственном в квартире рояле строго распределялись между учениками. В свободное время они ходили в театр, на концерты, по воскресеньям принимали гостей, выступали перед ними с выученными пьесами. В доме Зверева Рахманинов провел четыре года. Здесь он получил прочный профессиональный фундамент, навыки регулярных занятий, развил чувство долга и ответственности. Получил он и прекрасное общее образование, блестящее знание теоретических предметов. Начиная с 1887 года мальчик стал записывать свои импровизации и серьезно увлекся сочинением. Первыми стали фортепианные пьесы, которые показали, насколько хорошо юный композитор знал этот инструмент.
На старших курсах консерватории руководителями Рахманинова были Зилоти (рояль), Танеев и Аренский (теория и композиция). На заключительном экзамене по гармонии его прелюдии так понравились Чайковскому, что он окружил поставленную пятерку четырьмя плюсами. Комиссия рекомендовала юному музыканту серьезно заняться композицией.
Покинув дом Зверева, Рахманинов одно время жил у своей тетки, В. Сатиной. У нее в имении Ивановка неподалеку от Тамбова он провел лето 1890 года, оставшееся памятным на всю жизнь. Дом Сатиных был большим, вместительным, в нем собралась большая молодежная компания — Зилоти с женой и детьми, две сестры и брат Сатины, три их двоюродные сестры Скалой. Естественно, в доме воцарилась атмосфера влюбленности. Рахманинов не на шутку увлекся Верой Скалой, казалось, ему отвечают взаимностью, но он был «бедным странствующим музыкантом», как называл себя в шутку в письмах, а она — дочерью генерала. О браке между ними не могло быть речи. Через девять лет Вера вышла замуж. «Перед свадьбой она сожгла более ста Сережиных писем, — вспоминала ее сестра. — Она была верной женой и нежной матерью, но забыть и разлюбить Сережу ей не удалось до самой смерти».
Тем летом Рахманинов не только увлекался. Каждый день он давал уроки своей двоюродной сестре, Наташе Сатиной, не меньше четырех часов занимался на фортепиано сам, делал четырехручное переложение «Спящей красавицы» Чайковского, а втайне ото всех (хотя все об этом знали) сочинял Первый концерт для фортепиано с оркестром.
Вернувшись осенью в Москву, юный музыкант столкнулся с неожиданной проблемой: Танеев ушел с поста директора. Сменивший его В. Сафонов обострил отношения с Зилоти до такой степени, что тот решил покинуть консерваторию. Тем самым Рахманинов оставался без педагога. Не желая переходить в другой класс, он попросил разрешения окончить курс фортепиано годом раньше, той же весной. Совет профессоров, учитывая исключительные способности, дал на это разрешение, назначил программу, и через три недели состоялся экзамен. По композиции он также решил закончить досрочно. За один учебный год были сочинены Юношеская симфония, оркестровая поэма «Князь Ростислав», Русская рапсодия для двух фортепиано, оперные фрагменты, хоры, романсы. В 1892 году юноша окончил курс композиции. Его экзаменационной работой стала одноактная опера «Алеко», написанная в небывало короткий срок — от 27 марта, когда студенты получили либретто В. И. Немировича-Данченко в качестве экзаменационного задания, до 13 апреля, когда опера в партитуре была представлена комиссии. 7 мая состоялся экзамен, на котором Рахманинов получил пять с плюсом. Как окончившему с отличием два факультета консерватории, ему была присуждена Большая золотая медаль.
Премьера «Алеко» состоялась через год, 27 апреля 1893 года. «Я думаю, что успех зависел не столько от достоинств оперы, сколько от отношения к ней Чайковского, которому она очень нравилась, — вспоминал Рахманинов. — Во время одной из репетиций Чайковский сказал мне: „Я только что закончил двухактную оперу „Иоланта“, которая недостаточно длинна, чтобы занять целый вечер. Вы не будете возражать, если она будет исполняться с Вашей оперой?“ Он так и сказал: „Вы не будете возражать?“ Ему было пятьдесят три года, он был знаменитый композитор, а я новичок двадцати лет!»