Еще во время учебы в лицее Грот увлекался в основном языками и литературой, и это увлечение продолжалось в годы его чиновной карьеры, плохо с нею уживаясь. Грот настойчиво изучал языки, владел свободно немецким, французским, итальянским и английским, читал в оригинале «Энеиду» Вергилия. Собственную литературную деятельность он начал с поэтических переводов. В начале 1838 г. в «Современнике» П. А. Плетнева был напечатан его перевод байроновской поэмы «Мазепа», и это было началом его многолетнего сотрудничества с журналом, равно как и тесной дружбы с Плетневым. Грот придавал этой дружбе большое значение в своей духовной жизни, через нее он вошел в литературный мир, познакомился со многими писателями, стал постоянным посетителем литературных вечеров, в частности, у князя В. Ф. Одоевского.
Первому знакомству Грота с финской и скандинавской культурой помог случай. В автобиографии он рассказывает, что где-то в середине 1830-х гг. решил заняться для укрепления здоровья верховой ездой и гимнастикой; руководил занятиями «швед Паули», петербургский житель, по-видимому, человек интеллигентный, одолживший Гроту две книги на шведском языке: поэму «Сага о Фритиофе» Э. Тегнера, тогдашней скандинавской знаменитости, и сборник лирических стихотворений в те годы еще молодого, только входившего в силу финляндского поэта Ю. Л. Рунеберга. О тегнеровской поэме Грот был уже наслышан, о ней с похвалой отозвался Гете; в дополнение к шведскому изданию Грот разыскал ее немецкий перевод, а вскоре и сам решил перевести ее на русский язык. С рукописным переводом трех песен из поэмы ознакомился В. А. Жуковский и в письме к Плетневу посоветовал переводчику продолжать работу. (Перевод тегнеровской поэмы был опубликован Гротом в 1841 г. уже в Хельсинки.)
Свою первую поездку в Финляндию Грот совершил в 1837 г. По его рассказу, она была краткой, и ее «главным плодом было убеждение, что я должен еще раз побывать в Финляндии, чтобы хорошенько усвоить себе шведский язык и приготовиться к переводу начатой поэмы». Летом 1838 г. Грот уже на более продолжительное время поехал в Хельсинки, познакомился с поэтом и критиком Фр. Сигнеусом и вместе с ним навестил Рунеберга в городе Порвоо. Это была его первая встреча с Рунебергом; поэт подарил тогда гостю две книги своих стихов. Летом следующего года Грот предпринял очередную поездку в Финляндию, объездил юг страны и две недели гостил у Рунеберга. Тогда же Грот впервые получил представление о «Калевале» — по прозаическому ее переложению на шведском языке, которое ему преподнес хельсинкский профессор истории Г. Рейн.
В печати появились первые статьи Грота на финляндско-скандинавские темы: «Знакомство с Рунебергом» (1839), «О финнах и их народной поэзии» (1840) в «Современнике», «Поэзия и мифология Скандинавии» (1839) в «Отечественных записках».
У Грота крепло желание надолго поселиться в Финляндии, тем более что чиновничья карьера мало прельщала его. На одной из петербургских встреч ему стало известно, что профессор русского языка Хельсинкского университета С. В. Соловьев намеревается оставить свой пост, и Грот готов был занять его место, в чем его поддерживали Плетнев и Жуковский. Но дело с освобождением вакансии откладывалось, и тогда не без влияния Жуковского Гроту было предоставлено место в финляндском статс-секретариате с правом жительства либо в Петербурге, либо в Хельсинки, и Грот выбрал последнее. Формально он числился чиновником по особым поручениям, но в перспективе имелось в виду, что для него будет учреждена должность инспектора по преподаванию русского языка в финляндских училищах; одновременно Плетнев ходатайствовал об открытии в Хельсинкском университете новой вакансии профессора русской истории, литературы и языка, которая предназначалась для Грота. Весной 1840 г. Грот вместе с матерью переселился в Хельсинки и вскоре встретился с Лённротом, а в следующем году он был утвержден в звании профессора.