В период учебы в Петербурге И. К. Айвазовский почти ежедневно бывал среди прихожан столичной армянской церкви.
В Петербурге Айвазовский был знаком с такими выдающимися личностями, как поэт В. А. Жуковский, баснописец И. А. Крылов, художник К. П. Брюллов, был представлен А. С. Пушкину. Его связывали дружба и творчество с композитором М. И. Глинкой. В своих записках М. И. Глинка отмечает, что Айвазовский своей прекрасной игрой на скрипке вдохновил композитора, сыграв однажды ему три татарских мотива, впоследствии два из них, пишет Глинка, он употребил для лезгинки, а третью — для сцены Ратмира в третьем акте оперы «Руслан и Людмила».
Молодой художник Иван Айвазовский выставил свои работы, однако в «Художественной газете» была опубликована отрицательная рецензия на его две картины, что дало основание впасть в немилость императора Николая I. За живописца стали хлопотать баснописец Иван Андреевич Крылов, поэт Василий Андреевич Жуковский, профессор живописи Максим Николаевич Воробьев, и активно вмешался профессор батальной живописи Александр Иванович Зауервейд — все возымело успех в этом деле.
Осенью 1837 года совет Академии присудил Ивану Айвазовскому Большую золотую медаль за картину «Штиль» и вынес решение отправить его на два года в Европу как пансионера Академии для усовершенствования в мастерстве.
В конце лета 1839 года, вернувшись в Петербург, 23 сентября он получил аттестат об окончании Академии и свой первый чин и личное дворянство. Академия художеств возвела его в 14-й класс и наградила шпагой.
По окончании Академии художеств Иван Константинович летом 1840 года отправляется в Италию как пансионер Академии художеств. Первые месяцы пребывания в Риме у него были очень тяжелыми из-за серьезных материальных затруднений, поскольку часть своего пансионного содержания направлял своей матери в Феодосию. Затраты на поездки по стране, оплата мастерской, покупка материалов требовали строгой экономии. Однако вскоре материальное положение резко изменилось к лучшему, почитатели его таланта стали покупать картины. Айвазовский несколько лет провел в Италии и во Франции; здесь в музеях он познакомился с классическим наследием мирового искусства, совершенствуя мастерство. Здесь он близко сошелся с Боткиным, Панаевым, сблизился с Гоголем и вместе с ним из Рима поехал во Флоренцию, завязались дружеские отношения с художником Ивановым. Из Италии Айвазовский два раза ездил в Париж, оттуда в Лондон и Мадрид. В 1843 году художник выставил свои произведения в Париже, из Парижа — в Англию. В Италии его работы пользовались большим успехом. В 1843 году Айвазовский был награжден французской академией медалью. В 1868 году Айвазовский посетил Кавказ.
В Италии им было написано самое масштабное полотно «Сотворение мира. Хаос», которое с 1841 года хранится в Музее армянской конгрегации мхитаристов в Венеции.
Во время пребывания в Италии Айвазовский установил близкие отношения с армянскими учеными-мхитаристами, жизнь и деятельность которых была связана с крупным очагом армянской культуры в Венеции. На острове Святого Лазаря в конгрегации мхитаристов в это время находился его старший брат Габриэл Айвазовский (1812–1880 гг.), видный религиозный деятель, историк, переводчик. В 1843 году под его редакцией начала выходить газета «Базмавен», которая в впоследствии стала журналом, издаваемым и в наши дни.
В 1848 году Иван Константинович Айвазовский женился на англичанке, дочери петербургского штабс-доктора, находившегося на русской службе, гувернантке Юлии Яковлевне Грефе. В письме к своему товарищу он писал: «…я женился как истинный артист, то есть влюбился, как никогда. В две недели все было кончено. Теперь, после восьми месяцев, говорю Вам, что я так счастлив, что не воображал половину этого счастья. Лучшие мои картины те, которые написаны по вдохновению, так как я женился». Юлия подарила мужу трех дочерей: Елену, Марию и Жанну. Однако семейная жизнь, увы, не сложилась. Из-за нежелания Айвазовского жить в столице Юлия Яковлевна ушла от мужа спустя 12 лет. Однако брак был расторгнут лишь в 1877 году. Сохранилась «Памятная записка тайного советника Ивана Константиновича Айвазовского по бракоразводному делу», из которой выясняются некоторые детали: «При болезненно раздражительном характере в жене Айвазовского развивалось нечто вроде мании жаловаться, клеветать, позорить своего мужа не только на словах и в частном быту, но и письменно, в многочисленных прошениях и жалобах, которые по своей неосновательности не могли иметь никаких других последствий, кроме того, что совместное жительство сделалось далее невозможным, и в последние 20 лет супруги почти не виделись».