Спецификации определяли максимальную скорость в 400 км/ч на высоте 3000 м, которую самолет должен был набирать с полной нагрузкой за 8 минут. Продолжительность полета при скорости в 300 км/ч определялась в 5 часов. Взлетная дистанция должна была быть 300 м. Экипаж определялся в четыре человека, а оборонительное вооружение составляли три 7,7-мм пулемета на подвижных установках. Бомбовая нагрузка должна была бы быть 750 кг, а при уменьшенной дальности полета - 1000 кг.
Обуславливалась возможность установки двигателей Накадзимы Ха-5 мощностью в 850 л. с. или Мицубиси Ха-6 в 825 л. с. - оба 14-цилиндровые "звезды" воздушного охлаждения. Специально оговаривалась возможность эксплуатировать самолет при низких температурах в условиях Сибири.
В конкурсе также участвовали фирмы Накадзима и Кавасаки, которые предложили Ки-19 и Ки-22 соответственно. Воздушный штаб сразу отклонил вариант Кавасаки, а фирмам Мицубиси и Накадзима были заказаны прототипы для конкурсных испытаний. К проектированию Ки-21 были привлечены два самых опытных инженера фирмы Кюнодзо Озава и Наката. Проект имел наивысший приоритет, и работа на заводе N 5 в Нагое продвигалась очень быстро.
Ки-21 получился элегантным среднепланом с двигателями Ха-6 "Кинсей" (Золотая звезда) с трехлопостными винтами изменяемого шага "Гамильтон Стандарт". Трехлонжеронное крыло имело работающую обшивку из легкого сплава и было разделено на три секции. Элероны были из легкого сплава с тканевой обшивкой. Гидравлически выпускаемые закрылки - цельнометаллические. Фюзеляж-полумонокок с работающей обшивкой имел овальное сечение. Бомбоотсек размещался под лонжеронами центроплана, а над ними размещались два бензобака, сдвинутые к левому борту (справа был проход в хвостовую часть). Оперение имело металлическую конструкцию с полотняной обшивкой. Первый и второй пилот-штурман располагались рядом, бомбардир имел место в носовой части, стрелок-радист - в хвосте. Оборонительное вооружение составляли три 7,7-мм пулемета Тип-89. Один был в носовой башне с углами обстрела только в вертикальной плоскости, второй был в задней башне, а третий в нижнем люке. Шасси убирались и выпускались гидравлически.
Первый опытный Ки-21 полетел 18 декабря 1936 г - через 10 месяцев после получения заказа. Второй самолет был закончен в течение того же месяца. Последний отличался удлиненной "беседкой" стрелка вместо полусферической башни, так как продувка в аэродинамической трубе показывала большее воздушное сопротивление последней. После заводских испытаний в марте 1937 г оба самолета были переведены на авиабазу ВВС в Тачикаве для проведения конкурсных испытаний с двумя самолетами Накадзимы Ки-19.
Внешне Ки-19 был очень похож на конкурента и имел те же размеры, но на нем были установлены двигатели Ха-5 (Святая звезда). Соревнования продолжались в течение апреля - мая и закончились в июне испытаниями на бомбометание в Хамамацу. Оба конкурсанта показали близкие результаты. Ки-19 показал лучшую точность бомбометания и хорошую управляемость. Зато Ки-21 имел меньшую нагрузку на крыло и лучшие летные характеристики.
Согласия о победителе конкурса не было, хотя большинство склонялись в пользу бомбардировщика Мицубиси. Тогда армейские испытатели предложили продолжить конкурс с участием модернизированных прототипов, которые фирмы должны были представить с изменениями в конструкции, учтя накопленный опыт. Кроме того, предполагалась смена двигателей - на Ки- 21 ставились Ха-5, а на Ки-19 - Ха-6. Конструкторы
Мицубиси Озава и Наката внесли еще некоторые изменения в конструкцию бомбардировщика. Так испытатели указали на большее удобство удлиненной, остекленной носовой части с шаровой пулеметной установкой на Ки-19. В результате массивная носовая башня на Ки-21 была заменена на носовую часть по образцу бомбардировщика Накадзимы. Верхняя пулеметная "беседка" была продолжена вперед. Уступ в нижней части фюзеляжа был устранен, оперение было незначительно изменено. В результате удовлетворительной стала устойчивость бомбардировщика, особенно в момент сброса бомб.