В возрасте 31 года Янош оставляет военную службу.
Янош Больяй при жизни не вкусил славы великого ученого. Дальнейший жизненный путь его усеян сплошь колючими шипами. Он опубликовал свое открытие в качестве приложения в первом томе «Тентамена» («Опыта») своего отца под латинским названием «Аппендикс» («Приложение»). Первый том «Тентамена» Больяй-отца вышел в 1832 году и отдельный оттиск «Аппендикса» немедленно был послан Гауссу в Геттинген, но посылка затерялась и не дошла до адресата (в то время была эпидемия холеры). Только во второй раз книга дошла до Гаусса. Вместе с книгой Гаусс получил от своего старого друга Фаркаша Больяй письмо, в котором тот просил Гаусса сообщить свое мнение о работе сына. «Мой сын, — писал Фаркаш Больяй Гауссу, — ставит твой отзыв больше, чем мнение всей Европы».
Однако Гаусс не торопился с ответом. Только через шесть месяцев был получен долгожданный ответ Гаусса. Важно заметить, что в этом ответном письме Гаусс больше говорил о своих заслугах, чем о заслугах Яноша Больяй. И это роковым образом повлияло на всю дальнейшую жизнь молодого математика. Вот что писал Гаусс другу о работе его сына: «Теперь кое-что о работе твоего сына. Если я начну с того, что я ее не должен хвалить, то на мгновение ты поразишься, но я не могу поступить иначе; хвалить ее — значило бы хвалить самого себя, ибо все содержание этой работы, путь, по которому твой сын пошел, и результаты, которые он получил, почти сплошь совпадают с моими, которые я частично получал уже 30–35 лет тому назад. Я действительно этим крайне поражен.
Я имел намерение в своей собственной работе, кое-что из которой я теперь нанес на бумагу, при жизни ничего не публиковать. Большинство людей совершенно не имеют правильного понятия о том, о чем здесь идет речь; я встретил только очень немногих людей, которые с особым интересом восприняли то, что я им об этом сообщил. Чтобы быть в состоянии это понять, надо сначала живо ощутить то, чего собственно здесь не достает, а это большинству людей совершенно неясно. Но я имел намерения со временем нанести на бумагу все, чтобы эти мысли, по крайней мере, не погибли со мной.
Я поэтому очень поражен тем, что я освобожден от этой необходимости, и меня очень радует, что именно сын моего старого друга таким образом меня предвосхитил». [28]
Янош не ждал этого. Он сильно возмутился ответом Гаусса. Он даже заподозрил Гаусса, что тот хочет присвоить его открытие. Но судьба готовила ему новый сюрприз. 17 октября 1848 года Янош Больяй получил от своего отца трактат «Геометрические исследования по теории параллельных линий» Н. И. Лобачевского, изданный в 1840 году на немецком языке в Берлине. Сначала Янош Больяй был очень сильно поражен, что в России есть ученый, который занимается теми же вопросами, что и он, который пришел к тем же результатам, но только другим, своеобразным путем. Он сначала не поверил этому. «Может быть, под именем Лобачевского, — думал он, — скрывается „геттингенский колосс“ Гаусс, который обработал мою теорию на свой лад и выпустил под вымышленным именем Лобачевского».
Читая Лобачевского, Янош Больяй составил свои обширные замечания, подробный критический разбор всего сочинения. Он восхищается некоторыми выводами Лобачевского и называет их гениальными.
Ко всему сказанному надо добавить, что Янош Больяй много занимался теорией комплексных чисел. В 1834 году Лейпцигское ученое общество имени Яблонского объявило конкурс на усовершенствование геометрической теории комплексных чисел. В этом конкурсе приняли участие Ф. Больяй, Я. Больяй и Ф. Керекеш. Работа последнего была удостоена половинной премии, тогда как более значительные работы первых Двух ученых, в особенности Больяй-сына, не были даже упомянуты.
Этот несправедливый акт непризнания научных заслуг был новым ударом для Яноша.
Не получив поддержки со стороны ученых и прежде всего со стороны Гаусса, на которого он много рассчитывал, Янош Больяй потерял душевное равновесие и стал заниматься заведомо неразрешимыми проблемами. Например, он стремился создать на математической основе учение о всеобщем благе.