До якогось моменту Мазепа все ж не наважувався вступати у відкрите протистояння з Москвою. Але тут відіграла свою роль генеральна старшина війська, яка дедалі активніше натякала гетьману на необхідність порвати з московським царем, уникаючи перспективи перетворити Україну на звичайну російську провінцію. Таким настроям козацтва, безумовно, сприяв царський указ, у якому йшлося про реорганізацію українського козацького війська за зразком слобідських полків. Ці полки вже не були в прямому підпорядкуванні гетьманської канцелярії, а знаходились під командуванням Посольського приказу у Москві. Звичайно, такий указ не міг не насторожити полковників і старшину. Як пише В. Голобуцький, старшина ця, збираючись на таємні ради у генерального обозного Ломиковського і в миргородського полковника Данила Апостола, активно виступала за протидію подібним указам Петра І.
Слід наголосити, що страх старшини перед новими «колінцями» російської політики щодо України і Війська Запорозького мав цілком реальні підстави. Так, наприклад, відомий випадок, коли у тому ж 1706 році гетьман Мазепа запросив Петра І до себе на бенкет. Серед присутніх на бенкеті був і Олександр Меншиков, на той час один з перших фаворитів російського царя. Як зазначає С. Соловйов, Меншиков, добряче сп'янівши, нахилився до Мазепи і прошепотів йому на вухо так, щоб чули всі, хто був поряд: «Гетьмане, Іване Степановичу, час уже братися за цих ворогів». Натякав він саме на найближчу старшину Мазепи. Гетьман, не знітившись, відповів Меншикову теж на вухо, але пошепки і так само театрально, як говорив Меншиков: «Ні, не час». Але Меншиков не збирався закінчувати розпочату розмову і сказав таке: «Не може бути кращого часу, як зараз, коли тут царська величність з військом. Ворогів не потрібно боятись і щадити. Ти вірний государеві, але треба на ділі це довести і пам'ять про себе у нащадках залишити, щоб майбутні царі знали про це і ім'я твоє славили, що один такий був вірний гетьман Іван Степанович Мазепа, який таку користь державі Російській зробив». Звичайно, про Україну подібна до Меншикова людина розмови вести не могла, для неї України просто не існувало, була лише провінція його великої батьківщини. Та чи було потрібно таке прославляння держави Російської Мазепі? Як видно з його подальших вчинків, ні. Він обрав для себе інший шлях. Саме тоді, імовірно, Іван Мазепа остаточно вирішив перейти у війні на бік Карла XII і за його допомогою домогтися для України незалежності під верховенством польського короля Лещинського. Як повідомляє у своїй книзі відомий сучасний російський історик Т. Таїрова — Яковлєва, точна дата рішення гетьмана невідома, але відомо, що 17 вересня 1707 року Мазепа відкрив свій план генеральному писареві Пилипу Орлику. 16 вересня 1707 року Мазепа одержав від польського короля лист, де «Станіслав просив, щоб Мазепа „навмисну справу починав“, коли шведські війська підійдуть до українських кордонів». Очевидно, що тут ішлося про заздалегідь продуманий і ретельно підготований план. У бесіді з Орликом Мазепа пояснював свої переговори з Лещинським виключно військовою загрозою. Він сказав, що залишатиметься вірним московському царю до того часу, доки не побачить, «з якою силою Станіслав до кордонів українських прийде і які будуть успіхи шведських військ в Московській державі». Таким чином, можна стверджувати, що вже за рік до переходу на бік Карла XII Мазепа підготував ґрунт для того, щоб у разі «крайньої і останньої нужди» перейти на бік Швеції і, отже, допомогти повалити Московське царство, звільнивши Гетьманщину з — під панування Петра І чужими руками. Цікавий той факт, що під час подальших переговорів з Мазепою Карл XII без жодних вагань погодився у разі перемоги над Москвою подарувати українській Гетьманщині суверенітет і навіть розрахуватися золотом за провізію, фураж та амуніцію, які мали знадобитися шведським воякам під час бойових дій на території України. Достатньо приваблива альтернатива російському війську, яке звикло брати все задарма і не перейматися добрим поводженням на землях, які, в принципі, не були для росіян ворожою територією.