Понеся такие потери, Мардоний был вынужден отвести остатки своей армии в Малую Азию. Несмотря на неудачу похода 492 г. до н. э. в целом, за что Мардоний был отстранен от командования, персам удалось закрепиться в северной части Эгеиды и создать себе плацдарм на будущее.
Неудача первого похода не изменила планов Дария, и он снова стал готовиться к вторжению в Грецию. Формировалась новая отборная армия численностью до 20 тыс. человек и большой флот. Во главе ее были поставлены опытный военачальник Датис и племянник царя Артафрен. Советником при них был изгнанный из Афин бывший тиран Гиппий, хорошо знавший местные условия и имеющий своих сторонников в Афинах. Персы учли сложность обходного движения вокруг северного побережья Эгейского моря и приняли смелое, хотя и рискованное решение — переправить армию на кораблях прямым путем из Малой Азии в Аттику и с ходу разгромить Афины. Это решение было рискованным, так как на маловместительных и тихоходных судах переправить большие массы пехоты и особенно конницы было очень опасно. Перегруженные суда легко могли стать добычей даже легкого морского волнения и нападения неприятельских кораблей.
Военным приготовлениям предшествовала дипломатическая подготовка. В 491 г. до н. э. во все полисы Балканской Греции были направлены персидские послы с требованием полной покорности (требование «земли и воды») или хотя бы нейтралитета в будущей войне. Многие греческие полисы островов (например, острова Эгина), Фессалии, Беотии подчинились этому требованию, Аргос заявил о своем нейтралитете, но самые сильные греческие государства, Спарта и Афины, категорически отвергли требования. Спартанцы сбросили послов в колодец, предложив самим взять там «землю и воду», а афиняне низвергли послов со скалы. Убийство послов сделало невозможным ведение каких-либо переговоров. Греки готовились к войне.
Выждав спокойной погоды, Датис и Артафрен, соблюдая крайнюю осторожность, переправили свою армию на остров Эвбею, где захватили и уничтожили Эретрию, а ее жителей обратили в рабство. После покорения Эвбеи персы высадились в северо-восточной части Аттики — около местечка Марафон, расположенного в 42 км от Афин.
По всей вероятности, план военных действий против Афин был составлен по советам Гиппия. На широкой марафонской равнине персы могли спокойно и удобно расположить свою армию и использовать превосходную конницу. Имея хорошо укрепленный лагерь, персы могли беспрепятственно опустошать всю Аттику. Из Марафона можно было совершить нападение на Афины по сухопутью, а большой персидский флот мог обогнуть мыс Суний и атаковать Афины с моря. Именно такая комбинированная атака флота со стороны моря и сухопутной армии из глубины принесла персам успех при взятии Милета в 494 г. до н. э.
Положение усугублялось тем, что Гиппий имел своих сторонников в самих Афинах, которые вели агитацию в пользу персов. К тому же среди афинского командования не было согласия относительно плана ведения военных действий. Часть стратегов придерживалась выжидательной пассивной тактики и предлагала ограничиться обороной Афин. В довершение всего афинянам отказала в немедленной помощи Спарта, поскольку в эти дни там проходило религиозное празднество.
В этих крайних обстоятельствах на первый план выдвинулся талантливый полководец Мильтиад. В конце VI в. до н. э. он был правителем Херсонеса Фракийского, часто сталкивался с персами и хорошо знал особенности персидской военной организации, ее сильные и слабые стороны. В 490 г. до н. э. Мильтиад был одним из стратегов и предложил план ведения военных действий, который в конечном итоге привел афинян к победе. Мильтиад хотел опередить персов и навязать им свою наступательную тактику. Он убедил своих коллег стратегов не отсиживаться в слабо укрепленных Афинах, а вести все войско к Марафону и дать там решительное сражение. 12 сентября 490 г. до н. э. состоялась знаменитая Марафонская битва, вошедшая в историю античного военного искусства.
На Марафонской равнине столкнулись две различные системы военной организации: древнегреческая фаланга, состоящая из строя тяжеловооруженных пехотинцев — гоплитов, и рассыпной строй персов. Лучшими в персидской армии были прославленная конница и умелые лучники.