Вскоре после московской премьеры «Весны» в жизни Рахманинова произошло крупное и радостное событие: он женился на своей двоюродной сестре, той самой Наташе Сатиной, которой давал уроки музыки летом 1890 года. Из-за близкого родства с невестой ему пришлось сначала добиваться «Высочайшего разрешения» на брак. 29 апреля 1902 года молодые обвенчались и сразу отправились за границу — побывали в Италии, Австрии, Швейцарии, совершили паломничество в город Вагнера Байрейт, где слушали «Кольцо нибелунга», «Летучего голландца» и «Парсифаля», осенью вернулись в Россию и поселились в Москве. Семейная обстановка, внимание и забота, которой окружила композитора любящая жена, благоприятно сказались на его творчестве. Работал он много, так как семья требовала средств. Она росла: в 1903 году родилась дочь, в 1907 году — вторая. Рахманинов нежно любил их, говорил: «Они — самое дорогое в моей жизни! и светлое!»
В 1904 году Рахманинов стал дирижером Большого театра. За два, года, которые он провел на этом посту, им были осуществлены постановки «Пиковой дамы», «Князя Игоря», «Бориса Годунова», «Русалки», ставшие эталонными. Его авторитет рос с каждым спектаклем. Частыми стали выступления и в концертах Московского филармонического, Московского и Петербургского отделений русского музыкального общества. В эти же годы им были написаны оперы «Скупой рыцарь» по пушкинской маленькой трагедии и «Франческа да Римини» по Данте. Продолжающие лучшие традиции русской оперной классики, эти небольшие оперы намечают и новые пути развития жанра, сближающие его с кантатой и симфонической поэмой. Этому способствуют лаконичность либретто, отсутствие деления на отдельные номера, спаянность сцен благодаря разветвленной системе лейтмотивов.
После окончания второго сезона в Большом театре, весной 1906 года, Рахманинов решил уйти с работы, занимавшей чрезвычайно много времени и сил, чтобы отдать их творчеству. Сначала вместе с семьей он едет в Италию и проводит несколько недель во Флоренции, затем — в тихом местечке близ Пизы. Вернувшись в Россию в середине лета, едет в ставшую любимой и привычной Ивановку — имение Сатиных, где серьезно работает над сборником романсов. На зиму поселяется в Дрездене, начинает было оперу «Монна Ванна» по Метерлинку, но оставляет этот замысел ради фортепианной сонаты. В конце 1907 года им завершена Вторая симфония, которая получила признание публики и была награждена Глинкинской премией. Последним из произведений, созданных в Дрездене, стала симфоническая поэма «Остров мертвых» по картине швейцарского художника-символиста А. Бёклина. Композитор в Дрездене увидел ее черно-белую репродукцию. «Если бы я сначала увидел оригинал, — писал он через несколько лет, — то, возможно, не сочинил бы моего „Острова мертвых“. Картина мне больше нравится в черно-белом виде». Дрезденское затворничество не стало полным: композитор выезжает оттуда в Россию, на исполнение Второй симфонии; в Париж, где принимает участие в Русских исторических концертах, организованных антрепренером Дягилевым. Там он играет Второй фортепианный концерт, дирижирует «Весной», в которой поет Шаляпин. Ему уже сопутствует слава одного из лучших пианистов мира — его исполнительское искусство современники сравнивают с волшебством Шехеразады, с пластичностью античной скульптуры.
Весной 1909 года семья Рахманиновых покидает Дрезден и возвращается в Москву. Здесь перед музыкантом разворачивается огромное поле деятельности — он входит в состав московской дирекции РМО, занимает должность инспектора музыки, контролирующего работу музыкальных учебных заведений, много дирижирует. Приходится заняться и работой, очень далекой от искусства: приводить в порядок Ивановку, которая с женитьбой стала его собственностью и пришла в упадок за годы, пока имением никто не занимался. «На свое имение Ивановку я истратил почти все, что за свою жизнь заработал, — пишет он Зилоти. — Сейчас в Ивановке лежит около 120 тысяч». Зато хозяйство поправлено, в него введено много усовершенствований, куплены лошади и появился первый автомобиль — Рахманинов всю жизнь будет неравнодушен к ним.