В тюрьме его с первого же дня начали зверски избивать, требуя показаний о его шпионской деятельности и о том, что он якобы вел переговоры с англичанами об отделении Казахстана от СССР, а также о подготовке им террористического акта против М.И.Калинина, когда последний в дни празднования 15-летия Казахской ССР приезжал в Алма-Ату на торжества и жил несколько дней на квартире у Мирзояна. (Во всех этих фальсифицированных обвинениях чувствовалась характерная для ежовских следователей «железная логика».)
Затем Мирзояну предъявили обвинение в том, что он еще готовил террористические акты против Сталина и Ежова. На его требования, чтобы его связали со Сталиным, следователи отвечали бранью и еще сильнее его избивали.
Однажды во время допроса в кабинете следователя появился Ежов, к которому Мирзоян обратился с жалобой на методы следствия, просил разобраться во всем и прекратить пытки.
— Товарищ Сталин приказал оставить тебе целой только кисть правой руки, чтобы ты мог подписать показания о своей вражеской деятельности, — заявил Ежов. — Учти, Мирзоян, что указания Иосифа Виссарионовича будут выполнены с точностью!
Мирзояна зверски избивали, от ударов по голове у него были повреждены барабанные перепонки, так что он едва слышал. По нескольку дней его держали на допросах стоя. Следователи менялись, а он продолжал стоять, ноги распухали, и он падал, теряя сознание. Тогда его обливали водой, приводили в сознание, а затем опять продолжались избиения, издевательства и пытки. Наконец, не выдержав пыток и решив скорее умереть, Мирзоян подписал то, что от него требовали.
Через несколько дней его снова вызвали на допрос, и он был поражен, увидев Берию, окруженного совершенно новыми следователями. В свите Берии были Кобулов, Владзимирский и ряд других. Мирзоян знал Берию по прошлой работе в Закавказье, где они не ладили между собой, однако Мирзоян в первое мгновение (так же, как и я) порадовался, увидев Берию, так как надеялся через него дать знать о себе Сталину и добиться правды. Поэтому он сразу же стал рассказывать Берии, что его страшно пытали и все подписанное им является ложью.
— Мы давно знали, что ты старый шпион, провокатор и мусаватист, — ответил Берия. — Так же как знаем твою грязную роль в расстреле двадцати шести бакинских комиссаров. Поэтому нечего выкручиваться, а не то снова будем бить!
— Чему угодно я могу поверить, Лаврентий, — забыв, что он подследственный, сказал Мирзоян, — но только не тому, что ты веришь в то, что говоришь!
— Какой я тебе Лаврентий, мерзавец! — крикнул Берия. — Обращайся, как полагается преступникам, а если ты забыл, как надо обращаться, тебе поможет Богдан.
Обернувшись к Кобулову, распорядился:
— Продолжайте допрос! — и вышел из кабинета. Ко булов набросился на Мирзояна с оскорблениями и побоями. Кобулову помогали человек пять здоровенных парней, которые били Мирзояна резиновыми палками, причем, зная, что у него больные почки, нарочно били по пояснице и другим самым уязвимым местам. Снимали с него ботинки и били по голым пяткам. (Это, кстати сказать, был один из новых методов избиения, введенный Берией, видимо, заимствованный из китайской практики. Удары по пяткам вызывали острую боль и не оставляли никаких следов.) Несколько раз вызывали какого-то подлеца врача, который, проверив пульс, цинично заявлял: «Можно про должать!»— и уходил.
Со дня прихода в НКВД Берии Мирзояна допрашивали почти ежедневно. Несколько раз на допросах присутствовал Берия и лично избивал его. На одном из допросов Берия потребовал, чтобы Мирзоян рассказал, как им были завербованы в террористическую организацию его шурин Тевосян, в то время член ЦК ВКП(б), и бывший уполномоченный ЦКК по Казахстану Москатов. Мирзоян долго сопротивлялся, но, будучи доведен побоями и пытками до отчаяния, подписал показания против Тевосяна и Москатова, а также и все ранее данные ложные показания.
После этого его на некоторое время оставили в покое, а затем снова вызвали на допрос, и Кобулов, а также и сам Берия начали орать на него:
— Ты провокатор! Почему ты оклеветал честных людей? Зачем ты, сволочь, оговорил Тевосяна и Москатова? Напиши, что ты их сознательно оклеветал!
На первых порах Мирзоян не хотел отказываться от показаний на Тевосяна и Москатова, боясь новой провокации, но его опять побоями и пытками принудили подписать отказ.