Начавшаяся вскоре Русско-японская война была первым испытанием для молодого артиллерийского офицера. В полку была объявлена мобилизация. 1 июня 1904 года подпоручик Гришин был командирован к себе на родину, в город Тамбов, в распоряжение Тамбовского уездного воинского начальника «для приема и препровождения запасных лошадей для штаба 6-го Сибирского армейского корпуса» (корпус формировался в это время в Московском военном округе и готовился к отправке на фронт). Уже 8 июня он прибыл обратно из командировки. 27 июня в Коломне состоялся парад частей, отправляющихся на Дальний Восток, на котором присутствовал только что прибывший в город Император Николай II. Перед ним торжественным строем прошли 5-й и 6-й Восточно-Сибирские саперные батальоны и 5-й мортирный артиллерийский полк.
7 июля Гришин в составе полка проследовал по железной дороге на Дальний Восток, на театр военных действий и 3 августа перешел границу и вступил в пределы Маньчжурии.
С 3 августа 1904 по 10 ноября 1905 года он находится в составе действующей армии на театре военных действий. Уже в августе участвует в крупном сражении с японцами под Ляояном. Сразу после окончания этой битвы, 29 августа, он высочайшим приказом производится в поручики, а вскоре, «за отличие в бою с японцами под городом Ляояном» награждается своим первым орденом — Святой Анны 4-й степени с надписью «За храбрость».
За время этой войны поручику Гришину удалось поучаствовать в сражении на реке Шахэ, зимнем сражении при селении Сандепу и еще нескольких небольших боях. 7 апреля 1905 года он прибыл с батареей в Харбин.
Русско-японская война была неудачной для России, но на Гришина это никак не повлияло — за время боевых действий ранений и контузий не имел, набрался боевого опыта и получил первую награду. 10 ноября 1905 года он возвращается в Россию и сразу же прикомандировывается к 8-му Восточно-Сибирскому стрелковому артиллерийскому дивизиону.
После окончания войны—опять лямка артиллерийского офицера, которую он тянул в частях Иркутского и Приамурского военных округов. 7 января 1906 года он был официально переведен в 8-й Восточно-Сибирский артиллерийский дивизион, где временно занимал должность заведующего хозяйством 1-й батареи, а затем был назначен делопроизводителем батареи. В 1907 году 8-й Восточно-Сибирский стрелковый артиллерийский дивизион переименовывается в 8-ю Восточно-Сибирскую стрелковую артиллерийскую бригаду. Гришин служит в ней вторым старшим офицером 6-й батареи. В ноябре 1907 года получает орден Святого Станислава 3-й степени с мечами и бантом, за боевые отличия.
Высочайшим приказом от 29 августа 1908 года поручик Гришин производится в штабс-капитаны. В это время он служит первым старшим офицером батареи, частенько исполняя должность временно командующего батареей. В марте 1909 года он прикомандировывается к 1-му Сибирскому резервному артиллерийскому дивизиону, где возглавляет команду разведчиков, а в ноябре этого же года окончательно переводится в дивизион. Дивизион располагался в селе Усть-Балей Иркутской губернии. В апреле 1910 года назначен заведующим учебной командой дивизиона. Ездит квартирьером в Хабаровск и Благовещенск.
10 июля того же 1910 года по случаю реорганизации армии в составе 1-го полудивизиона 1-го Сибирского резервного артиллерийского дивизиона штабс-капитан Гришин выступает из Иркутского в Приамурский военный округ и 20 июля прибывает в город Благовещенск. Здесь дивизион переформировывается в 10-ю Сибирскую стрелковую артиллерийскую бригаду, где он продолжает исполнять должность заведующего учебной команды (с 1913 года — начальник учебной команды). Помимо этого он состоит также членом суда общества офицеров, библиотекарем офицерской библиотеки и членом распорядительного комитета офицерского собрания.
Высочайшим приказом от 4 марта 1911 года ему был пожалован орден Святой Анны 3-й степени. По всей видимости, Алексей Николаевич был не лишен литературного слога и проявлял определенный интерес к истории — в октябре 1913 года ему было поручено составлять историю своей бригады.
Девять лет мирной жизни — и снова война, Первая мировая (или, как тогда говорили — Великая). Всеобщая мобилизация Русской армии была объявлена 17 (30) июля 1914 года, а уже 19 июля (1 августа) Германия объявила войну России.
23 сентября 1914 года штабс-капитан Гришин переводится в 5-й Сибирский мортирный артиллерийский дивизион, куда и прибывает 4 октября. Дивизион, входивший в состав 5-го Сибирского армейского корпуса, отправляется на Германский фронт и 17 октября прибывает в Смоленск. Оттуда, через Барановичи, он двигается в Польшу, на станцию Червонный Бор Ломжинской губернии, где высаживается и приступает к сосредоточению в районе боевых действий.