В 1946 г., демобилизовавшись из рядов Советской Армии, Н. Н. Яненко поступил в аспирантуру Московского университета к П. К. Рашевскому. Темой его исследований стала классическая проблема дифференциальной геометрии - теория изгибания поверхностей. Результаты, полученные Н. Н. Яненко, были изложены в его кандидатской (1949) и докторской (1954) диссертациях. Они, по свидетельству специалистов, позволили дать законченную глубокую теорию признаков изгибания и, по сути, завершили развитие этого направления дифференциальной геометрии.
В 1948 г. параллельно с учебой в аспирантуре Николай Николаевич начинает работать в группе члена-корреспондента АН СССР А. Н. Тихонова, которой было поручено провести расчеты первой советской водородной бомбы (РДС-6с). В группу Тихонова входили А. А. Самарский, В. Я. Гольдин и Н. Н. Яненко, позже к ним присоединился Б. Л. Рождественский. Творческое содружество этих замечательных ученых в 1953 г. привело к успеху и послужило основой многих достижений в будущем. Академик А. А. Самарский в 1984 г. вспоминал: “Мы ничего не боялись, брались за любые дела, - и все получалось!”.
За решение важных государственных задач оборонного значения Н. Н. Яненко в 1953 г. был удостоен Сталинской премии.
В этом же году Николай Николаевич стал старшим научным сотрудником и первым ученым секретарем только что образованного Отделения прикладной математики (ОПМ) при Математическом институте АН СССР им. В. А. Стеклова. Продолжилась его работа по созданию методов вычислительной математики. А в 1955-м на Урале начал свою деятельность новый ядерный центр НИИ-1011 (затем ВНИИТФ, г. Челябинск-40). Н. Н. Яненко был назначен начальником математического отделения.
На Урале Николай Николаевич проработал до осени 1963 г. Этот период характеризовался бурным развитием вычислительных методов. Среди них достойное место занимает метод дробных шагов, автором которого является Н. Н. Яненко. Основы этого мощного вычислительного инструмента создавались во время его работы на Урале.
В эти же годы закладывался фундамент научной школы Н. Н. Яненко. Для работы в математическом отделении ВНИИТФ он сам отбирал лучших выпускников лучших вузов страны. Затем организовал их стажировку в ОПМ в Москве. А когда началась производственная деятельность нового центра, сумел таким образом настроить молодежь и создать в отделении такую обстановку, что молодые сотрудники с энтузиазмом и задором работали над самыми ответственными, самыми сложными заданиями.
Продолжалась и педагогическая деятельность Николая Николаевича, начатая еще в конце 40-х годов, когда он вел семинары на физфаке МГУ. Будучи сотрудником закрытого объекта, расположенного на большом расстоянии от Свердловска и Челябинска, Н. Н. Яненко все же находил возможность выезжать в эти города для чтения лекций. Поездка по очень плохой дороге начиналась рано утром, затем следовало несколько лекционных часов и - возвращение глубоким вечером на объект.
Регулярными в этот период стали конференции математиков, работавших во ВНИИЭФ и ВНИИТФ. В их организации и установлении высокого уровня проведения большая роль принадлежит Н. Н. Яненко.
С 1963 г. Н. Н. Яненко по приглашению руководства Сибирского отделения АН СССР работает в новосибирском Академгородке. Возвращение в родные места словно придало новый импульс его творческой работе. Она развернулась широким фронтом: и заведование Отделом численных методов механики сплошных сред в Вычислительном центре СО АН СССР, и преподавание в Новосибирском университете, и написание монографий, и международные научные контакты, и создание знаменитого в среде математиков и механиков “кольца семинаров” по проблемам современной математики, механики, математической физики. Их было шесть. Каждый семинар проводился не реже чем раз в два года и становился прекрасной научной школой для молодежи и местом встреч крупных ученых и специалистов. Задачи, рассматриваемые на этих семинарах, образовывали целый комплекс проблем современной вычислительной математики.