Вскоре наступили черные дни «большого террора». Начались массовые аресты командно-начальствующего состава не только в войсках, но и в военно-учебных заведениях. Некоторых из командиров и начальников Красной Армии, прежде чем арестовать, увольняли из ее рядов. Так случилось и с Евгением Матвеевичем: приказом НКО по личному составу № 4066 от 31 декабря 1937 г. его уволили из армии, а через неделю (8 января 1938 г.) подвергли аресту. К обвинениям 1931 г. добавились и новые: принадлежность к военному заговору, в который его якобы вовлек в апреле 1932 г. (выходит, что сразу же после досрочного освобождения из лагеря!) начальник Военной академии имени М. В. Фрунзе Р. П. Эйдеман.
Свыше месяца Е. М. Голубинцев держался и не признавал себя виновным. Однако 10 февраля 1938 г. он вынужден был подписать протокол допроса со своими «признаниями». Устраивали ему следователи и очные ставки с другими подследственными, которые под жестким контролем следователей обвиняли Евгения Матвеевича в принадлежности к антисоветской организации (командарм 1-го ранга И. П. Белов, дивинтендант Б. Н. Иванов). Допросы и другие следственные действия продолжались весь 1938 г. и 1939 г. В марте 1939 года Голубинцев от всех своих так называемых признательных показаний отказался как от ложных и клеветнических и с тех пор заявлял на всех допросах о своей невиновности, несмогря на меры физического воздействия[326].
Дело но обвинению Е. М. Голубинцева рассматривал 29 июля 1939 г. военный трибунал Ленинградского военного округа. Там Евгений Матвеевич подтвердил свой отказ от ранее данных им «признательных» показаний, утверждая, что они написаны следователем. Убедительных доказательств вины Голубинцева суд не установил и принял решение направить его дело на доследование со стадии предварительного следствия. Фактически же никакого доследования не проводилось, а просто было составлено новое обвинительное заключение и дело направлено в Особое Совещание (ОСО) при НКВД СССР.
Целый год (с июля 1939 г. по июль 1940 г.) шла тяжба между ОСО и военным трибуналом ЛBO. Было ясно, что дело трещало по всем швам, явно рассыпалось из-за отсутствия серьезных оснований для обвинения подсудимого, и оба органа, цепляясь за малейшие юридические детали, несколько раз переправляли его друг другу, так и не решаясь прекратить за недоказанностью обвинения. И только 23 июля 1940 г. состоялось постановление ОСО: пять лет ссылки в Красноярский край. Это наказание Евгений Матвеевич отбывал в селе Сухобузим.
В начале января 1943 г. срок ссылки Е. М. Голубинцева закончился. Однако сразу уехать с места ссылки он не смог из-за соответствующих ограничений в перемещениях лиц, осужденных по политической статье. Тогда Евгений Матвеевич устроился на работу, заняв должность заведующего Балахтинским райдоротделом.
Все годы Великой Отечественной войны Е. М. Голубинцев неоднократно обращался к Главному военному прокурору и другим должностным лицам с просьбой вернуть его в ряды Красной Армии, чтобы сражаться с фашистскими захватчиками на фронте или в тылу готовить кадры для него. т. е. преподавать в военно-учебных заведениях. Однако осуществить это желание ему удалось только после окончания срока ссылки. В 1943 г. Е. М. Голубинцева восстановили в кадрах Красной Армии и назначили преподавателем в Артиллерийскую академию, где он и прослужил до 1949 г.
Некоторые детали процесса восстановления Евгения Матвеевича в кадрах РККА можно узнать из его письма бывшему своему сослуживцу по кафедре тактики Артиллерийской академии В. В. Иванову, также имевшему до ареста воинское звание “комбриг”. Их судьба в 30-х и 40-х годах во многом оказалась схожей. Они, два полковника старой армии, вместе работали на одной кафедре в Артиллерийской академии, в один год были арестованы (Голубинцев в январе, а В. В. Иванов – в июле 1938 г.), оба получили по пять лет ссылки и были освобождены в 1943 г. Разница заключалась в том, что Е. М. Голубинцева восстановили в кадрах Красной Армии, а В. В. Иванов, судя по письму, после освобождения продолжал жить по месту ссылки (г. Павлодар Казахской ССР). Письмо датировано 28 ноября 1944 г.