Детство и юность писатель провел на Дону. Крытая соломой хата, в которой родился он в июне 1912 года, долго стояла на хуторе Меркуловском, неподалеку от станицы Вешенской. Отец Грачева еще перед началом мировой войны привез из Прибалтики жену-латышку, но сам после гражданской войны умер от тифа.
Нелегко пришлось вдове поднимать на ноги четырех детей мал мала меньше. Кругом разруха и недружелюбие хуторян из ревнителей казачьих «традиций», которое переносилось и на детей-«латышат». Дома бедность и слезы матери. Мальчик рос впечатлительным, остро воспринимал обиды со стороны сверстников и поэтому стремился уединиться где-либо на берегу Дона или уходил в широкую и привольную степь. Уже тогда у него появилась любовь к природе, которой он остался верен до конца и которая всегда присутствует в его произведениях.
В тринадцать лет, закончив четыре класса сельской школы, он отправился в станицу Мешковскую, где находилась школа крестьянской молодежи, продолжать образование. Там он проучился два года, а затем комсомол направил его учиться в станицу Каргинскую. В этой станице жила мать Михаила Шолохова, над которой учащиеся взяли своеобразное «шефство», а Сашу Грачева влекло в этом доме множество книг.
В 1930 году тысячи комсомольцев пошли в Красную Армию и Флот, среди них оказался и комсомолец Саша Грачев — он стал курсантом Новочеркасской кавалерийской школы. Да и куда еще мог пойти сын казака, чья любовь к коням известна издревле? Казалось, дорога в жизни определилась навсегда.
Но судьба распорядилась иначе. По состоянию здоровья курсант Грачев был отчислен из школы — так в 1932 году рухнула его мечта стать командиром Красной Армии.
В том же году раздался призыв комсомола к молодежи построить город юности на глухих берегах Амура. И вот осенью старенький пароход «Колумб» с очередной партией комсомольцев высадил у таежного села Пермского и Александра Грачева, ставшего строителем будущего города.
Подвиги комсомольцев-строителей Комсомольска-на-Амуре стали достоянием истории. О них немало написано, живы еще и многие из тех, кто прорубал первые просеки в тайге, мерзли в шалашах и землянках, боролись с цингой и, наперекор всему, строили город, имея основным орудием труда топор, кирку и лопату. Хорошо об этом написал сам Александр Грачев в романе «Первая просека»: «Первый удар топора… Как будто это просто: ударил — и все. А между тем надо бы памятник поставить тому, кто сделал это первым: нелегок был труд корчевщиков тайги. Так бы и запечатлеть в мраморе или бронзе фигуру паренька в косоворотке или юнг-штурмовке, в лихо сбитой на затылок кепке, и над ней стремительно занесенный вверх топор — творец бесчисленных деревень и крепостей, посадов и городов земли русской. Надо бы! Да только никогда не узнаешь, кто этот паренек, нанесший первый удар там, где легла первая просека и где суждено было вознестись городу».
В 1934 году Саша Грачев стал сотрудником газеты строителей «Молодой ударник». Эта работа много дала будущему писателю. Постоянные поездки к лесорубам, сплавщикам, по строительным объектам позволили быть в курсе всех событий стройки, дали ему, в виде корреспонденций, очерков, зарисовок, просто заметок, значительную часть материала для будущего романа.
Уже в те годы Александр Грачев стремился расширить свои познания земли дальневосточной. Где он только не побывал! И в стойбищах нанайцев, с которыми немало побродил по тайге, изучая ее буйное и своеобразное богатство; на рыбацких тонях, где знакомился с Амуром, который так полюбился ему, у пограничников и во многих других местах.
Эту жажду познания, острый интерес к людям Александр Грачев сохранил до конца. Можно только по-хорошему позавидовать обилию его друзей в самых разных уголках Дальнего Востока, тому, как легко он сходился с самыми различными людьми, умел открывать в них хорошие черты, и тому, как охотно наши земляки шли ему навстречу.
Первые попытки в литературе Александр Грачев начал еще в юности. И, конечно же, как и большинство его сверстников, со стихов. Некоторые из них даже публиковались в газетах. Но, когда всерьез занялся творчеством, стал писать рассказы. Как автор премированных на литературном конкурсе рассказов, составивших сборник «Литературный Комсомольск», он был участником первой дальневосточной конференции писателей в Хабаровске. Там он познакомился со многими писателями: Петром Комаровым, Трофимом Борисовым, Вячеславом Афанасьевым, Николаем Рогалем и многими другими. Как сам он рассказывал, уже в те годы он задумал написать приключенческую повесть для юношества «Тайна Красного озера», собирал для нее материалы, искал прообразы ее героев.