20 декабря 1963 года в 12 часов дня он приехал на Балтийскую улицу, что в районе метро «Сокол», и, войдя в один из домов, начал проводить под видом работника Мосгаза профилактический осмотр газовых плит и духовок. Однако отнюдь не техническое состояние плит интересовало его: он высматривал удобную обстановку в квартирах москвичей для совершения преступления. И вот в одной из квартир он нашел то, что искал. Дверь ему открыл 12-летний мальчик и, выслушав версию о профилактическом осмотре, впустил Ионесяна в квартиру. Тот, обойдя ее и убедившись, что мальчик дома один, безжалостно убил подростка, нанеся ему множество ножевых ранений. После этого Ионесян открыл свою сумку и спокойно погрузил в нее детский шерстяной свитер, сатиновые шаровары, кожаный кошелек с узорным тиснением, положил в карман 60 рублей бумажными купюрами. И это было все, на что позарился преступник и за что лишил жизни 12-летнего ребенка. Вечером того же дня убитые горем родители вызвали на Балтийскую улицу милицию. Через несколько часов картина преступления была в целом восстановлена, и в протоколе следствия впервые появилась личность молодого южанина в ушанке, немодно завязанной сзади (именно эта странно завязанная ушанка и навела муровцев на мысль, что убийца — не москвич).
На следующий день был составлен приблизительный фоторобот преступника, и с ним ознакомили весь личный состав столичной милиции. Это произошло 24 декабря. А 25 декабря Ионесян уехал из Москвы и прибыл в город Иваново. Здесь его кровавый маршрут пролег по двум улицам: Калинина и Октябрьской. И вновь его версия о профилактическом осмотре действовала безотказно: люди безропотно открывали перед ним свои двери и впускали в дом. В трех квартирах обстановка для Ионесяна оказалась подходящей: в них были лишь мальчик-подросток, пенсионерка и ученица девятого класса. Двоих из них Ионесян безжалостно убил, а школьницу изнасиловал и нанес ей несколько ударов топором (к счастью, девочка выжила). И вновь, как и в первом случае, преступник довольствовался малым: из квартиры мальчика была похищена одежда, деньги, облигации, авторучки; у пенсионерки он взял фонарик за три рубля и кошелек с 70 копейками; у девушки — электробритву «Харьков», две авторучки, электрофонарик.
Как только весть о бесчеловечных убийствах в Иванове достигла Москвы и стало ясно, что убийца — один и тот же человек, этому делу был придан статус особо важного. Подобных зверств в столице и округе давно уже не случалось. В Управлении охраны общественного порядка Мосгорисполкома создается оперативный штаб по поимке преступника, в который вошли: полковник милиции Анатолий Волков, Кузьма Горбачев, майоры милиции Фридрих Светлов, Николай Муравьев и другие. Дело под свой личный контроль взял министр охраны общественного порядка (так с октября 1962 года именовалось МВД) Вадим Тикунов. Он, в свою очередь, чуть ли не ежедневно информировал о ходе расследования председателя Совета министров СССР Алексея Косыгина. От последнего информация шла выше — в Президиум ЦК.
Статус особо важного дела позволил органам милиции привлечь к его раскрытию многих известных людей из числа ученых, художников, скульпторов. К примеру, заслуженный деятель искусств Казахской ССР Наум Карповский вместе с сотрудниками милиции поехал в Иваново и после продолжительных бесед с очевидцами нарисовал предположительный портрет убийцы. Известный скульптор, профессор Михаил Герасимов также после бесед с людьми, видевшими убийцу, воссоздал подробный портрет преступника. Эксперты научно-технического отдела УООП изготовили сотни этих портретов и распространили их среди сотрудников милиции. По этому портрету и описаниям убийца выглядел следующим образом: рост высокий, выше 172 сантиметров, худощавый, плечи средней ширины, шея короткая, лицо худощавое, удлиненное, овальной формы, нос длинный, узкий, кончик острый, глаза большие с открытыми веками, губы средней толшины, рот среднего размера. Из одежды, бывшей на преступнике, упоминались: длинное поношенное пальто свободного покроя, темные брюки, суконные ботинки черного цвета на резиновой подошве, ушанка из меха, похожего на пыжик.
Первоначально сыщики ухватились за версию о том, что преступник явно не в своем уме. И действительно, логика его поступков была мало похожа на деятельность нормального человека. Он мог в квартире, где совершал преступления, оставить многие ценные вещи, захватив с собой всякую мелочь вроде авторучек и электрических фонарей. Однако вскоре на основе анализа хитроумных действий убийцы сыщики пришли к выводу о том, что тот не так прост, как кажется. Он был достаточно предусмотрителен и осторожен для ненормального и к каждому преступлению тщательно готовился. Поэтому, чтобы перекрыть ему все возможные лазейки, столичная милиция была приведена в состояние повышенной готовности. Под усиленным наблюдением находились железнодорожные вокзалы, на улицах появились военные и милицейские патрули. Вся Москва полнилась слухами о жестоком убийце из Мосгаза, однако средства массовой информации сохраняли гробовое молчание по этому поводу. И лишь «вражеские голоса из-за бугра» доносили до людей крупицы правды.