Вернувшись в Петербург, в 1911 г. Мандельштам поступил на отделение романских языков историко-филологического факультета Петербургского университета, но не окончил его.
В России Мандельштам интересуется религией (особенно напряженно в 1910 г.), посещает заседания Религиозно-философского общества. Но в стихах его религиозные мотивы целомудренно-сдержанны («Неумолимые слова…» о Христе, который не назван). Из стихов этих лет Мандельштам включил в свои книги менее трети. Но в 1911 г. он все же принимает крещение по методистскому обряду у протестантского пастора, что было «уступкой обстоятельствам, связанным с невозможностью из-за процентной нормы поступить в университет».
Первые его поэтические опыты – два стихотворения в традициях народнической лирики – были опубликованы в студенческом журнале Тенишевского училища «Пробужденная мысль» в 1907 г. Но подлинный его литературный дебют состоялся в августе 1910-го, в девятом номере журнала «Аполлон», где была напечатана подборка из пяти его стихотворений.
Поначалу Мандельштам примыкал к поэтическому течению «символизм», посещал В.И. Иванова, посылал ему свои стихи. Но 1911 г. Мандельштам сблизился с Н.С. Гумилевым и А.А. Ахматовой, и в 1913 г. его стихи «Notre dame», «Айя-София» печатаются в программной подборке акмеистов.
Акмеизм для Мандельштама гораздо ближе символизма – это конкретность, «посюсторонность», «сообщничество сущих в заговоре против пустоты и небытия», преодоление хрупкости человека и косности мироздания через творчество («из тяжести недоброй и я когда-нибудь прекрасное создам»). Поэт уподобляет себя зодчему, почему первую свою книгу Мандельштам и называет «Камень» (1913, 2-е издание, значительно переработанное, 1916).
К Мандельштаму приходит известность в литературных кружках, он свой человек в петербургской богеме, задорный, веселый до ребячливости и самозабвенно-торжественный над стихами.
Раннее творчество Мандельштама неразрывно связано с акмеизмом, деятельностью «Цеха поэтов» и литературной полемикой между акмеистами и символистами. Ему принадлежит один из манифестов акмеизма – «Утро акмеизма» (написанный в 1913 г., но опубликованный только в 1919-м), провозгласивший ценность «слова, как такового» – в единстве всех его элементов – в противовес футуристическому отказу от смысла слова во имя звука, Так и символистскому стремлению увидеть за конкретным образом его подлинную скрытую сущность.
К октябрьской революции 1917 г. Мандельштам относился как к катастрофе (стихи «Кассандре», «Когда октябрьский нам готовил временщик…»), однако вскоре у него возникает робкая надежда на то, что новое «жестоковыйное» государство может быть гуманизовано хранителями старой культуры, которые вдохнут в его нищету домашнее, «эллинское» (но не римское) тепло человеческого слова. Об этом его лирические статьи 1921—1922 гг.: «Слово и культура», «О природе слова», «Гуманизм и современность», «Пшеница человеческая» и другие.
В первые годы после революции 1917 г. Мандельштам работает в Наркомпросе. В 1919—1920 гг. (и позднее, в 1921—1922 гг.) он уезжает из голодного Петербурга на юг – Украину, Крым, Кавказ, – но от эмиграции отказывается.
В 1922 г. Мандельштам поселяется в Москве вместе с молодой женой Надеждой Хазиной (Н.Я. Мандельштам), с которой он познакомился 1 мая 1919 г. Она станет его опорой на всю жизнь, а после гибели поэта сохранит его литературное наследие.
Мандельштам обожал жену, называя ее своим вторым «я». А. Ахматова вспоминает: «Осип любил Надю невероятно, неправдоподобно. Когда ей резали аппендикс в Киеве, он не выходил из больницы и все время жил в каморке у больничного швейцара. Он не отпускал Надю от себя ни на шаг, не позволял ей работать, бешено ревновал, просил ее советов в каждом слове в стихах. Вообще я ничего подобного в своей жизни не видела».
К 1923 г. надежды поэта на быструю гуманизацию нового общества иссякают. Мандельштам чувствует себя отзвуком старого вен в пустоте нового («Нашедший подкову», «1 января 1924»), и после 1925 г. на пять лет он вообще перестает писать стихи. Только в 1928-м выходят итоговый его сборник «Стихотворения» и прозаическая повесть «Египетская марка» (о судьбе маленького человека в провале двух эпох).
С 1924 г. Мандельштам живет в Ленинграде, а с 1928-го в Москве, он и жена практически бездомные, с вечно неустроенным бытом.
Начиная с середины 1924 г. Мандельштам, зарабатывая на жизнь, занимается переводами; пишет автобиографическую прозу «Шум времени» (1925), «Четвертая проза» (издана посмертно в 1966 году); выпускает сборник статей «О поэзии» (1928). И самого себя в те годы он так характеризует: «Чувствую себя должником революции, но приношу ей дары, в которых она не нуждается».
Всего при жизни Мандельштама вышло шесть его поэтических книг: три издания «Камня» (1913, 1916 и 1923); «Tristia» (1922 г., переводе с греческого это слово означает «печаль, скорбное песнопение»); «Вторая книга» (сборник был издан в 1923 году в Берлине и был назван так М.А. Кузьминым) и «Стихотворения» (1928)». В 1931—1932 гг. Мандельштам заключил договоры на сборники «Избранное» и «Новые стихи», а также на двухтомное собрание сочинений, но эти издания не состоялись.
После гибели поэта имя Мандельштама оставалось в СССР под запретом около 20 лет. Первое в СССР посмертное издание стихов Мандельштама было анонсировано в 1958 г., но вышло только 1973-м – Мандельштам О. «Стихотворения», в большой серии «Библиотека поэта». (Впервые же собрание сочинений поэта было издано в США в 1964 г.).
В начале 1930-х гг. Мандельштам уже вполне принимает идеалы революции, но категорически отвергает власть, которая их фальсифицирует. В 1930-м он пишет свою «Четвертую прозу» – жесточайшее обличение нового режима, а в 1933-м – стихотворную «эпиграмму» на Сталина «Мы живем, под собою не чуя страны…» Внутренний разрыв с рабством официальной идеологии дает Мандельштаму силу вернуться к подлинному творчеству, которое у него шло, за редким исключением, «в стол», не предназначаясь для сиюминутной печати.
14 мая 1934 г. за «эпиграмму» «Мы живем, под собою не чуя страны…» и другие стихи Мандельштам был арестован в своей квартире.
А. Ахматова вспоминает: «Обыск продолжался всю ночь. Искали стихи… Осипа Эмильевича увели в 7 часов утра, было совсем светло… Через некоторое время опять стук, опять обыск. Пастернак, у которого я была в тот же день, пошел просить за Мандельштама в «Известия», я – к Енукидзе, в Кремль…»
Возможно, это заступничество известных поэтов и Николая Бухарина сыграло свою роль. Известен факт звонка Сталина Пастернаку, в котором предметом разговора был Мандельштам.
Резолюция Сталина была: «Изолировать, но сохранить». И вместо расстрела или лагерей – неожиданно мягкий приговор – ссылка вместе с женой, Надеждой Мандельштам, в город Чердынь-на-Каме Пермской области.
В Чердыни у Мандельштама были приступ душевной болезни и попытка самоубийства. Он выбросился из окна больницы и сломал себе руку.
Вскоре место ссылки было заменено на Воронеж, где Мандельштам пробыл до 1937 г. Стихи, написанные в этот период, по словам А. Ахматовой – «…вещи неизреченной красоты и мощи», составили «Воронежские тетради», опубликованные посмертно в 1966 г.
В Воронеже Мандельштам живет нищенски, сперва на мелкие заработки, потом на скудную помощь друзей и постоянно продолжает ждать расстрела.