Опытный перехватчик "128" передали на заводские испытания 23 января 1961 г. 27 февраля начались рулежки. Всю первую половину марта прототип накатывал сотни километров по аэродрому ЛИИ. 18 марта М.Козлов и К.Малхасян подняли машину в первый полет, продолжавшийся 30 минут. 21 марта после второго полета заменили один из двигателей. На седьмом полете к испытаниям подключился летчик-испытатель А.Бессонов. На опытной машине проверялись поведение перехватчика в воздухе, его взлетно-посадочные свойства. 20 апреля на восьмом полете самолет на высоте 11000 м вышел на скорость, соответствующую числу М=0,98.24 апреля опытный "128" достиг скорости М=1,06.
23 июня на 20 полете начались тренировки перед традиционным парадом в Тушино. Демонстрация машины с двумя макетами ракет К-80 во время авиационного праздника прошла успешно. Это был 31-й полет опытного перехватчика. В советских газетах самолет назвали "сверхзвуковым и многоцелевым". Западные комментаторы и специалисты дружно приняли обтекатель КЗА за многофункциональную РЛС. Однако внешний вид подвешенных снарядов не позволял сомневаться в их предназначении, и в НАТО машина получила "истребительное" обозначение "Fiddler" ("Скрипач").
После окончания заводских опытный экземпляр участвовал в государственных испытаниях. С него сняли обтекатель КЗА и подфюзеляжные гребни, установили внешние подкрыльевые пилоны. В 1967 г. опытный перехватчик испытывали на грунтовой полосе ЛИИ. Кроме того, на самолете исследовался режим посадки с невыпущенными закрылками, а также испытывались высотное оборудование и спасательный костюм-скафандр ВМСК-2. В настоящее время эта машина выставлена в музее ВВС в Монино.
С конца 1959 г. параллельно с постройкой опытного самолета, не ожидая результатов летных испытаний, началось строительство серийных перехватчиков (изделие "И") на Воронежском авиационном заводе (ВАЗ) №64. В производство запустили сразу четыре самолета. Постройку первой серийной машины (№0101) завершили в начале 1961 г. В конце апреля начались рулежки, а 13 мая летчик-испытатель Вобликов совершил на ней первый 30-минутный полет. 10 июня на шестом полете самолет перегнали в Жуковский, где с 17 июня М.В.Козлов, А.Д.Бессонов и другие пилоты стали выполнять на нем регулярные испытательные полеты. С начала июля для подстраховки его также начали готовить к параду. Серийный перехватчик на тренировках постоянно сопровождал прототип. На параде, однако, показали только опытную машину, хотя серийная также находилась в воздухе.
В процессе заводских испытаний задания усложнялись, и не все полеты проходили нормально. Так, из-за плохой работы тормозов колес основного шасси имелись случаи разрушения тормозных тяг. Происходили также складывания ног шасси на пробеге, причину чего нашли не сразу. Лишь при повторных случаях складывания установили, что оно происходило из-за дефекта в цанговом замке подкоса. После доработок шасси стало функционировать нормально. В ходе полетов, выявился и недобор скорости. Ее значительно увеличили, заменив носки крыла на более острые. С целью повышения устойчивости перехватчика изменили зализы между крылом и фюзеляжем, а также провели ряд других, более мелких доработок. Внесение этих изменений вызывало большие перерывы в полетах и требовало их повторного проведения, что сказалось на темпах заводских испытаний, которые продолжались в течение всего 1961 г.
Тем временем со стапелей завода №64 продолжали сходить серийные Ту-28. 16 августа 1961 г. совершил полет первый самолет 2-й серии (№0201), принявший участие в испытаниях в Жуковском, 13 марта 1962 г. - второй самолет 2-й серии (№0202), 10 августа - первая машина 3-й серии (N°0301), в мае 1963 г. - первая машина 4-й серии (№0401), в октябре - второй самолет 3-й серии (№0302). Все изменения и доработки оперативно учитывались в серийном производстве. Уже на самолете №0301 изменили расположение блоков радиоэлектронного оборудования и переместили противопомпажные створки в среднюю часть фюзеляжа. Доработали и среднюю часть крыла, пилоны с АПУ-128 и многие другие элементы самолета.
20 марта 1962 г. начались совместные государственные испытания перехватчика. Из ГК НИИ ВВС в Жуковский прибыли военные летчики-испытатели Н.Коровушкин и Ю.Рогачев, атакже штурман-оператор Н.Мозговой. Вместе с пилотами ОКБ и МАП они выполнили ряд зачетных полетов. В этих испытаниях в различное время участвовали пять самолетов: первый опытный, серийные №0201, №0202, №0301 и №0401. В одном из полетов перехватчик, пилотируемый Ю.Рогачевым и Н.Мозговым, на высоте 11800 м потерял устойчивость и начал беспорядочно падать. Лишь благодаря исключительному мужеству, хладнокровию и мастерству пилота на высоте 2000 м машину удалось вывести в горизонтальный полет и благополучно посадить на аэродром. На протяжении всего падения Рогачев передавал на командный пункт информацию о поведении перехватчика и обо всех своих действиях. За этот полет экипаж наградили орденами. После анализа записей КЗА конструкторы провели необходимые доработки самолета для улучшения характеристик устойчивости и управляемости.
На аэродроме ЛИИ была проведена лишь часть совместных государственных испытаний Ту-28 и проверка работоспособности комплекса. Другую часть программы, позволившую оценить боевые качества комплекса, проводили на базе ГК НИИ ВВС во Владимировке (Ахтубинске). Первоначально в полетах участвовали три самолета, затем к ним присоединились еще два. На летной базе в Жуковском остался лишь первый серийный перехватчик, на котором летчик-испытатель А.Д.Бессонов и штурман-испытатель В.Баженов провели полный цикл испытаний силовой установки.
Второй самолет второй серии на госиспытаниях. Под крылом - макеты ракет К-80
Первый прототип Ту-128 занял место в Музее ВВС в Монино
Вместе с перехватчиками на юг страны отправились летчики-испытатели ОКБ-156 М.В.Козлов, С.Т.Агапов, штурманы-операторы К.И.Малхасян, В.Колосов, а также бригада Д.Кантора. К работам по Ту-28 в Ахтубинске привлекли сотни специалистов различных предприятий и организаций (только от ОКБ и ЛИиДБ участвовало свыше 150 человек). Для руководства испытаниями создали Государственную комиссию под председательством маршала Савицкого. На этом этапе на перехватчиках летали военные летчики-испытатели Ю.Рогачев, И.Лесников, Э.Князев, Г.Береговой, И.Довбыш, штурманы-испытатели Н.Мозговой, В.Малыгин, Г.Митрофанов и А.Хализов. Учитывая поступающие замечания, ОКБ-156 и его смежники продолжили доводку самолета и вооружения.
Ту-28 имел широкий диапазон скоростей: от 1910 км/ч без ракет (1665 км/ч с четырьмя ракетами) до посадочной в 280 км/ч. При этом на малых скоростях полета, особенно при выпущенных закрылках, самолет обладал повышенной реакцией по крену на отклонение руля направления, а на сверхзвуке реакция менялась на обратную. На дозвуковых скоростях, особенно при больших скоростных напорах, запас продольной статической устойчивости перехватчика был недостаточным. Подвеска ракет вела к дальнейшему уменьшению этого запаса на дозвуке и к уменьшению путевой и поперечной устойчивости при М>1. Переход через звуковой барьер приводил к возрастанию продольной устойчивости, но одновременно и к значительному уменьшению эффективности руля направления и элеронов, что требовало большого хода штурвала для ввода самолета в крен. Возрастали также шарнирные моменты элеронов и руля направления. Эти особенности Ту-28 потребовали применения нелинейной кинематики в системах продольного и путевого управления, установки гидроусилителей по необратимой схеме. Для улучшения характеристик продольной устойчивости и управляемости на перехватчике установили демпфер в канале тангажа, а также автомат устойчивости и автомат дополнительных усилий для ограничения углов атаки и перегрузки. Для улучшения характеристик боковой динамической устойчивости на самолет поставили демпферы крена и рыскания.