Спустя четыре дня после оккупации фашистами Киева по всему городу появились листовки с призывами «бить жидов», плакаты с карикатурами «иудо-большевистских комиссаров» и «евреев-угнетателей». Свою борьбу с большевизмом нацисты видели прежде всего в борьбе с евреями. Так, в директиве ставки Гитлера от 12 сентября 1941 года говорилось: «Борьба против большевизма требует беспощадных и энергичных действий прежде всего против евреев, которые являются главными носителями большевизма».
Начавшиеся 24 сентября 1941 года пожары в Киеве развязали злодеям руки в борьбе с большевиками и евреями. Пожары начинались от взрывов фугасов, заложенных в административных зданиях, которые по расчету советского командования должны были быть заняты немцами. Взрывные устройства приводились в действие по радио с расстояния до 400 км, но виновниками были объявлены евреи. Уже 27–28 сентября по городу был распространен приказ: «Все жиды города Киева и его окрестностей должны явиться в понедельник 29 сентября 1941 года к 8 часам утра на угол Мельниковой и Доктеривской улиц (возле кладбища). Взять с собой документы, деньги, ценные вещи, а также теплую одежду, белье и пр. Кто из жидов не выполнит этого распоряжения и будет найден в другом месте, будет расстрелян. Кто из граждан проникнет в оставленные жидами квартиры и присвоит себе вещи, будет расстрелян».
Перед тем как приступить к расправе, нацисты проделали большую «работу». В Киев для составления и утверждения плана предстоящей казни приезжал высокопоставленный начальник СС и полиции обергруппенфюрер Ф. Еккельн. В город доставили специальные военные подразделения для исполнения экзекуции, было выбрано место казни и разработан маршрут к нему, распространена информация. Эти мероприятия проделали настолько быстро, что есть все основания полагать, что судьба киевских евреев была предрешена еще до вступления фашистов в город.
Расстрелы начались 29 сентября и продолжались пять дней. О них сразу же узнал весь Киев, однако люди продолжали покорно следовать к месту казни. Многие из них просто не верили, что фашисты могут причинить им вред. После 1939 года советская пропаганда не касалась зверств нацистов по отношению к евреям, пожилые же люди, помнившие с 1918 года солдат кайзеровской армии, уверяли: «Немцы ничего нам не сделают, ведь это культурная нация. На зло они не способны».
По свидетельствам очевидцев того, что происходило 29 сентября, евреи, следовавшие к месту казни, были окончательно запутаны и деморализованы. Некоторые не верили предостережениям о расстрелах и отвечали что их, дескать, собираются обменять на немецких военнопленных. Некоторые понимали, что их ждет гибель, но считали, что шансов на спасение уже нет, даже если отделиться от толпы и свернуть в переулок или подворотню.
Об ужасах происходившего в Бабьем яру существует целый ряд воспоминаний очевидцев, переживших то страшное время. Они не публиковались в советское время и стали достоянием общественности только в 1991 году. Существуют воспоминания и находившихся в то время в Киеве нацистов, которых происходившее также не оставило равнодушными. Так, офицер оккупационной администрации профессор Ганс Кох свидетельствует: «Местом, куда была направлена колонна «переселенцев», являлась разветвленная сеть противотанковых рвов, которая вместе с естественными глубокими канавами и оврагами образовывала оборонительную систему Киева. Там был выбран и оцеплен большой участок местности. Поскольку для охраны и расстрела согнанных людей специальных отрядов службы безопасности не хватило, для оцепления использовали и несколько рот эсэсовцев.
Сначала «переселенцы» проходили вдоль ряда столов, где они должны были сдать документы и находившиеся при них вещи, прежде всего — ценности. Затем их гнали к другому ряду столов, где они раздевались и сдавали одежду. После этого они, раздетые донага, должны были выстроиться группами вдоль самого края противотанковых рвов… Многие женщины несли на руках младенцев или вели за руку детей постарше. Раздавались пулеметные очереди, и все они падали в противотанковые рвы или овраги.
А если кто-нибудь в ямах еще шевелился, то вновь гремели выстрелы. После того как в противотанковом рву или в овраге оказывалось два-три слоя трупов, края этих могил фашисты частично взрывали и убитые засыпались слоем земли. Затем все начиналось снова, и так до тех пор, пока общая могила не была заполнена доверху. При этом, разумеется, происходили ужасные сцены, поскольку многим лишь на месте казни становилось понятно, что их ожидает.