Не по-малко сложен и противоречив е пътят на Русо и в литературата. Успехите му на литературното поприще идват бавно и мъчително, славата го осенява едва в зряла възраст. От 1737 — 1738 датират първите опити на Жан-Жак в поезията. Първата му печатана творба е поемата „Градината на госпожа дьо Варан“, появила се през 1739 г. Жанрът, в който тогава опитва силите си начеващият поет, е дидактическото послание в духа на Хораций и Боало. В Сольор младият Русо обитава за кратко време стаята, в която живеел вреди това неговият именит съименник Жан-Батист Русо — най-известният френски поет по онова време, и литературните му амбиции се разпалват още повече, В поезията на Русо се долавят и навеи от Торквато Тасо, когото той опознава в оригинал по време на престоя си във Венеция като секретар на френското посолство (1743–1744). В ранния период от творчеството си Жан-Жак опитва силите си и в по-крупни жанрове. Между 1737 и 1740 той пише в Шамбери „опера-трагедия“ „Ифис и Анаксарет“, която изгаря. Все по това време създава и две комедии, в които се долавя влиянието на Мариво. Френските изследователи са единодушни в мнението си, че поезията и драматургията на Русо не притежават сериозни литературни достойнства. Те са само любопитен документ, който разкрива последователността във формирането му като писател. По-безспорни качества има само комедията „Нарцис“ (1741), която след единадесет години бива поставена на сцена благодарение обработката на самия Мариво. Любопитен литературен факт представя и написаната в средата на 50-те години „източна новела“ „Фантастичната кралица“. Тя е още едно потвърждение на господстващото в просветителските кръгове увлечение по източната екзотика, използвана своеобразно за целите на идейната борба. В този опит на Русо не е трудно да се открие подражание на Волтер, майстора на екзотичната новела, а диалогът издава сходство с „Жак фаталистът“ на Дидро. Най-главен подтик за написването на новелата обаче несъмнено е бил прочитът на Галановия превод на приказките от „Хиляда и една нощ“, една любима книга на Русо.
Сред литературните опити на Жан-Жак трябва да се споменат и недовършените повести „Любовта на Клер и Марсьолен“ и „Малкият савоец“, в които той си поставя новаторски задачи от жанров характер. Пред него възниква така нареченият „проблем за еклогата“, тоест възможно ли е да се опише трогателната и възвишена любов на обикновени селяци. Русо не успява да разреши поставената задача. В същото време върху аналогични проблеми работи в Англия Ричардсън, един от видните представители на английския сантиментализъм. За Русо това не е само жанров, а и стилистичен проблем. Още в „Размишление за произхода на езиците“ той стига до извода, че „не е възможно писменият език да запази дълго време непосредствеността на говоримия“. С най-голям успех той разрешава тази антиномия в „Изповеди“, но в ранните си опити не успява да съвмести сантиментално-трогателната тоналност и възвишения слог с преживяванията на обикновения човек от народа. По-късно в „Нова Елоиз“ той се отказва от своя ранен принцип, за да обрисува трогателната любов между потомствената аристократка Жюли д’Етанж и бедния учител Сен-Пртьо. „Нова Елоиз“ (1761) спечелва европейска слава на своя създател. Тя е и най-завършеният израз на идейноестетическия сантиментализъм на Русо, който създаде цяла епоха в европейската култура. Може би тук е уместно да противопоставим още веднъж двамата титани на просветителската епоха — апологета на свободния и донейде скептичен разум Волтер и пламенния защитник на правата на човешкото сърце Русо. За Волтер единствен критерий за стойността на нещата е безпощадната проверка на разума, жлъчният фернеец поставя на неговото безпогрешно блюдо всички предразсъдъци, наивни илюзии и измами, натрупани през хилядолетната история на човечеството, и саркастично доказва тяхната несъстоятелност. Русо, макар и да изхожда от философския деизъм на именития си предшественик, счита, че истинската същност на човека е в умението му да чувства. Така за него и понятието съвест се превръща в „божествен инстинкт“, „правещ човека подобен на бога“. В „Нова Елоиз“ намират естетическо покритие идеите на Русо за „естествения човек“ и „естествения морал“. Пламенната и чиста обич между Жюли и Сен-Прьо е синтез от добродетелите на „естествения“ човек, тъй като „истинската любов е най-целомъдреният от всички съюзи“. Същевременно драматичните препятствия, на които се натъква тя, са ярък плебейски протест срещу съсловните ограничения на изживялото себе си феодално общество. В устата на своя герой писателят влага слова, които ще зазвучат двадесет години по-късно в репликите на безсмъртния Фигаро на Бомарше. Успехът на „Нова Елоиз“ е сравним само с най-големите литературни събития на столетието. Само между 1770 и 1778 г. се появяват десет издания на романа. Особено силно е влиянието му върху немските писатели, представители на предромантичното направление „Буря и натиск“. Теоретичните концепции на Хердер са силно повлияни от възгледите на Русо, в ранния роман на Гьоте „Страданията на младия Вертер“ се долавят отгласи от „Нова Елоиз“, а младият Шилер пише „Ода на Русо“. Пламенната, макар и въображаема любов на Жюли, зачената по време на самотните разходки на Русо из Монморанси и подклаждана от платоничното му увлечение по Софи д’Удто, се превърна в траен източник за вдъхновение за немския романтизъм. Духовното отшелничество на женевския философ и своеобразният му пантеизъм, наречен справедливо по-късно на неговото име, дадоха образец за онова, което по-късно немските романтици определиха като „Wohne der Wehmul“ („сладост на тъгата“).