Впервые Филипп начал понимать, что устаревший государственный строй, монархия и власть землевладельцев, столь презираемые остальными греками, могут стать источником силы в борьбе с такими противниками. В тогдашней Македонии, несмотря на все огрехи, монархи все же были верховными правителями, воцарение каждого из них утверждалось войском, и теоретически правитель мог быть низложен военными посредством голосования. Если не считать этого и расплывчатого требования соблюдать «традиционные законы и обычаи», царская власть была абсолютной.
Македонская знать, так же как английские или французские бароны, получала землю от царей и была за это обязана служить им вместе со своими вассалами. Именно из родоплеменной знати царь отбирал своих «гетайров» («друзей»), которые играли роль и совета, и главного штаба во время войны. Из их числа выбирали личную охрану царя – восемь человек, которые сопровождали царя не только во время войны, но и во время всех общественных мероприятий.
Как и Фессалия, другое военное коневодческое государство, Македония располагала хорошей тяжелой кавалерией. Лошади в Македонии были не крупные, ростом немного выше, чем пони, но коневоды сумели вывести и более крупную породу, скрестив своих малорослых лошадей с конями, захваченными во время греко-персидских войн. Македоняне не пользовались ни седлом, ни стременами, как видно по изображениям на Сидонском саркофаге. Иначе говоря, у них в то время не было конных копьеносцев, известных в Средние века. Они располагали короткими копьями, которыми могли поражать противников во время ближнего боя. Старший брат Филиппа Александр во время своего кратковременного царствования создал также регулярную пехотную гвардию.
Это означало не просто воинскую категорию, но и определенный социальный статус. После убийства Александра пехотная гвардия сохранилась и была преобразована Филиппом в лучшее соединение тяжелой пехоты, существовавшее тогда в мире.
То была знаменитая македонская фаланга. Воины ее имели на вооружении страшные сариссы, копья длиной 13—14 футов, больше всего похожие на средневековые швейцарские пики. Так как они были примерно вдвое длиннее обычных пехотных копий, македоняне всегда имели возможность нанести первый удар при соприкосновении с противником. Воины фаланги проходили такую же серьезную военную подготовку, как впоследствии римские легионеры.
Находясь в Фивах, Филипп наблюдал за развитием событий на родине, изучая тем временем военную тактику и слушая лекции наставника-пифагорейца.
Сопротивление правлению Птолемея было сильным, но исходило оно в основном из Линкестиды.
Никто не обращал внимания на молодого Пердикку, брата Филиппа, а это, как показало время, было ошибкой. Возможно, подобно Архелаю, Пердикка питал слабость к литературе и философии, но это был не такой человек, с которым можно было не считаться. Он подождал года три, пока его позиции укрепились (нового регента уже нельзя было назначить), а затем арестовал и казнил Птолемея в 365 г. (или, по другим сведениям, в 364 г.) до н. э.
После этого Пердикка сам стал править Македонией, а в числе первоочередных дел добился освобождения Филиппа из Фив. Когда тот вернулся, Пердикка назначил его управляющим одной из провинций, чтобы Филипп там собирал и обучал войско.
Филипп сразу начал претворять в жизнь уроки Эпаминонда, добившись от воинов дисциплины и организованности. Македоняне-пехотинцы начали теперь заниматься тактическими маневрами и принимать участие в комплексных учениях. Крестьяне и знатные люди на равных несли тяготы военных занятий, нравилось им это или нет. Медленно, но верно Филипп создавал профессиональное войско, используя основы военного дела, существовавшие в Македонии, чтобы осуществить свои нововведения.
К 359 г. до н. э. власть Пердикки настолько усилилась, что он смог заняться иллирийскими делами. Положение на западной границе к этому времени стало нетерпимым. Линкестидцы снова вышли из-под контроля центральной власти, и у Пердикки не было гарантий, что он однажды не будет свергнут в результате переворота, поддержанного иллирийцами. Он оставил Филиппа регентом при малолетнем сыне Аминте и, собрав большое войско, отправился на запад. Но через несколько дней гонец принес в Пеллу весть, что Пердикка потерпел поражение и сам погиб в битве с иллирийцами, а еще 4000 македонян навеки остались на поле боя. Филипп, наконец, достиг, фактически, полной власти. Частично умиротворив, частично подавив внутреннее сопротивление, Филипп зиму 359/358 г. до н. э. посвятил усиленной программе военного обучения. Ранней весной пришло известие о смерти пэонского царя. Пройдя с войском через северные перевалы, Филипп разгромил пэонов и заставил их признать македонское господство.