Новый самолёт Яковлева совершил первый полёт 19 июня 1952 года. Много хлопот конструкторам доставила радиолокационная станция (всем известно, что бортовая радиоэлектроника до последних дней существования Советского Союза оставалась головной болью авиаконструкторов). Разработка РЛС «Сокол» затягивалась на неопределённый срок, поэтому на опытные машины установили то, что было под рукой — радиоприцелы РП-1 «Изумруд». Они же стояли на первых серийных истребителях Як-25 (такое наименование получил Як-120), вышедших из цехов Саратовского авиазавода в сентябре 1954 года.
Радиолокационные станции РП-6 «Сокол» появились на перехватчиках Як-25М лишь в январе 1955 года. При взлётной массе 7650 кг максимальная скорость нового истребителя на высоте 4000 метров составляла 1140 км/час, а скороподъёмность — 10 000 метров за 4,3 минуты. По сравнению с другими отечественными истребителями того времени, Як-25 имел наибольшую дальность полёта — 2800 км (3250 км с подвесным топливным баком), — что позволяло ему нести боевое дежурство в воздухе в течение трёх-четырёх часов. Хорошая управляемость позволяла пилотам выполнять на нём фигуры сложного пилотажа.
Но основным вооружением истребителя были две 37-мм пушки Н-37Л с боезапасом всего 50 снарядов на ствол. Отсутствие управляемых ракет и малый боезапас серьёзно снижали боевую эффективность этой машины.
В июле 1955 года новые перехватчики Яковлева продемонстрировали советскому народу и иностранным военным атташе на авиационном параде в Тушино. К тому времени они уже строились серийно на Саратовском авиазаводе. Всего за период с 1954 по 1957 гг. были построены 480 штук Як-25 различных модификаций.
На базе истребителя-перехватчика Як-25 был создан самолёт-разведчик Як-25РВ
Боевые возможности истребителя Як-25 в значительной мере снижали ненадёжная радиолокационная станция и небольшой боезапас к пушкам
Истребитель-перехватчик Як-25 строился под радиолокационную станцию «Сокол»
В конце 1954 года первые серийные машины поступили в строевые части авиации ПВО. Переучивание лётчиков на Як-25 происходило в 148-м Центре боевого применения и подготовки лётного состава ПВО в Савастлейке. В последующем их получили на вооружение многие авиационные полки ПВО (в основном, из состава Московского военного округа, 6-й и 8-й армий ПВО), а также 524-й истребительный авиационный полк 107-й истребительной авиадивизии ВВС Северного флота, базировавшийся на аэродроме Североморск-2.
На боевом дежурстве в авиаполках войск ПВО постоянно находились два истребителя-перехватчика Як-25 с подвешенными дополнительными топливными баками, готовые в любой момент вылететь на перехват воздушных целей. Но в отличие от машин Микояна и Гуревича, в течение всей своей службы им не пришлось участвовать в каких-либо громких инцидентах.
Истребители Як-25 очень быстро морально устарели. Начиная с 1963 года, их стали в массовом порядке выводить из боевого состава на базы хранения, а оттуда в дальнейшем отправляли на металлолом. На смену им шли более совершенные боевые машины: Як-28П, Су-9, Су-11, Су-15. Последним полком, летавшим на Як-25, был 146-й гвардейский авиаполк, прикрывавший столицу Украины, и перешедший на МиГ-19 в 1967 году.
На базе истребителя-перехватчика Як-25 для разведывательной авиации был создан самолёт-разведчик Як-27Р, предназначенный для замены устаревших Ил-28Р. Самолёты Як-27Р имели на борту фотоаппаратуру для плановой и перспективной съёмки, позволявшую производить фотосъёмку объектов и местности только днём, при условии хорошей видимости.
180 новых самолётов-разведчиков в 50-е годы поступили на вооружение разведывательных авиаполков ВВС. На этих машинах летали:
1) 48-й отдельный гвардейский разведывательный Нижнеднепровский авиаполк (57-я воздушная армия; ПрикВО; Коломыя);
2) 98-й отдельный гвардейский разведывательный авиаполк (76-я воздушная армия; ЛенВО; Мончегорск);
3) 164-й отдельный гвардейский разведывательный Керченский Краснознамённый авиаполк (37-я воздушная армия; СГВ; Бжег);