Резко покончив с учительством в апреле 1926 года Витгенштейн, вновь погрузившийся в уныние и отчаяние, сбежал в монастырь близ Вены, где стал не монахом, а садовником, как и шестью годами ранее. Он вернулся в Вену летом после смерти матери, произошедшей 3 июня 1926 года.
До января 1929 года Витгенштейн не покидал Вены, в основном занимаясь, совместно с другом Энгельманом, постройкой дома для своей сестры Маргарет (Гретль) Стонборо. Другая его сестра, Гермина, говорила, что это «логика, ставшая домом»: кубическая форма и отсутствие декоративных элементов придавали ему не слишком привлекательный вид, зато интерьер Витгенштейн продумал до мельчайших деталей. К сожалению, хоть сам дом существует и поныне, его внутреннее убранство было полностью изменено и более не соответствует тому, которое задумывал Витгенштейн.
Эти два года позволили ему вернуться к обычной жизни и, в частности, как уже отмечалось, возобновить занятия философией в сотрудничестве с членами «Венского кружка», объединившимися вокруг Шлика. Очевидно, Витгенштейн окончательно утвердился в мысли о том, что способен сделать что-то значимое в философии, после доклада, произнесенного в Вене 10 марта 1928 года голландским математиком Лёйтзеном Брауэром – основоположником интуиционизма в философии математики. По просьбе Шлика, желавшего опубликовать в более доступном изложении тезисы «Трактата», Витгенштейн начал диктовать Вайсману тексты, кои должны были послужить материалом для книги, которой сам же Вайсман собирался придать законченный вид. Эта своеобразная работа над книгой продолжалась довольно долго: Витгенштейн делился с Вайсманом своими соображениями каждый раз, когда приезжал в Вену в начале 1930-х годов, а Вайсман пытался скомпоновать их в связный и целостный текст. Однако ничего из этой затеи не вышло.
В конце концов Витгенштейн вновь занялся философией и вернулся в Кембридж в январе 1929 года. В июне того же года он стал доктором философии, предоставив для защиты свой «Трактат», а также получил исследовательскую стипендию на лето и осень. В январе 1930 года он приступил к преподаванию, но лишь в конце того же года получил исследовательскую стипендию сроком на пять лет, то есть до весны 1936 года.
К этому периоду относится прежде всего сочинение, над которым он работал в течение всего 1930 года, и особенно летом. «Философские заметки», которые были опубликованы лишь после смерти Витгенштейна, помогли ему в свое время получить исследовательскую стипендию. В течение последующих лет (1931–1934 годы) он редактировал совокупность заметок, объединенных под заголовком «Философская грамматика». Витгенштейн имел обыкновение ежедневно записывать в тетрадях результаты своих размышлений. Затем он удалял из записей все лишнее, собирая воедино то, что представлялось ему интересным. Потом, по всей видимости, диктовал результат этой работы, а затем перечитывал и подправлял надиктованное, и так до бесконечности. Витгенштейн сетовал на то, что ему с огромным трудом удается точно выражать свои мысли на бумаге. Из чего следовало, что он очень часто (если не всегда) был не удовлетворен тем, что делал. Поэтому он много писал, но ничего не публиковал.
К 1933–1934 и 1934–1935 годам относятся также надиктованные им студентам «Голубая книга» и «Коричневая книга», которые ходили по рукам в Кембридже.
Академическая жизнь тяготила Витгенштейна. Он упорно советовал студентам не заниматься преподаванием философии и сам был склонен к смене профессии. В ту пору он подумывал пойти учиться на врача или даже эмигрировать в СССР, чтобы заниматься там физическим трудом. Он выучил русский язык за 1934–1935 годы, а в сентябре 1935-го около десяти дней провел в Санкт-Петербурге и Москве. Кажется, ему предложили работать в университете, но уж никак не в колхозе и не на заводе!
Весной 1936 года, когда закончился срок, на который была выдана исследовательская стипендия, Витгенштейн не стал искать новую работу, а предпочел закончить свою книгу, уединившись в своем домике в Норвегии. Он прожил там с августа 1936-го по декабрь 1937 года, но каждый год неукоснительно проводил Рождество в кругу семьи в Вене, где он также пробыл несколько недель в начале лета 1937 года. Тогда же им были написаны первые страницы «Философских исследований».