Гетьман був іще у Москві, коли дійшло до соuр d'Etat: Софію зачинили у Дівочому монастирі, Галіцинові відібрали його майно і заслали, Іван якби й не існував, і велика Петрова доба почалася.
Мазепа мучився здогадами, що буде далі: його оточення вже намічувало його наслідника і сам гетьман тратив уже надію.
Він хотів заграти ще свою останню карту і зі своєю дружиною відвідав Петра у Троїцькому монастирі.
10 вересня молодий цар Петро, тоді 17-літок, прийняв українців на аудієнції і тут іще раз могутній чар Мазепи взяв верх. Мазепа приніс із собою багаті гостинці; великий золотий хрест, викладений самоцвітами, прегарну шаблю, яку наївний хронікар цієї доби оцінює на 2000 рублів, і золоті нашийники для царської рідні. Та більш як усіма дарунками вмів він з'єднати собі приязність царя своїм красномовством, своїм незрівняним хистом переконувати людей. Жаль, що ця майстерна промова найзручнішого дипломата у тодішній Європі якось не збереглась і не дійшла до нас.
Мазепа покинув Москву 12 вересня 1689 р. у ще більший силі та славі, ніж мав її, коли туди приїхав. В останніх днях його побуту у московській столиці трапився один дивний і дуже характеристичний епізод.
Польща, як відомо, ніколи не хотіла зректись України, і польський король Ян Собеський пробував з'єднати собі Мазепу через француза Невіль, тайного агента, якого вислав до Москви маркіз Бетюн, тодішній представник Людовика XIV у Варшаві. Невіль мусив доказати неабиякої штуки, щоб виконати свою місію, бо москалі XVII віку були дуже підозріливі і звикли стежити назирці за чужинцями. Французький агент переодягнувся і у товаристві одного німецького лікаря, що мешкав віддавна у Москві, зумів знайти доступ до Мазепи. Цей відкинув пропозиції польського короля. Чужинний посередник, хоча і зазнав повної невдачі, не почував жалю до Мазепи; у своїх споминах він згадує про «велику вченість того князя, який володіє прегарно латинською мовою».
Гетьман мусив поквапно вертатись, бо на Україні збиралось на бунт. Заки виїхав до Москви, він залишив на відчинених кордонах сильні обсади. Але татари не рухались і небезпека приходила із середини: вже поширювались чутки, що цар заарештував Мазепу, щоб заволодіти Україною. Запорожці проводили цим рухом; вони вислали послів до кримського хана і польського короля з пропозицією приєднатись до них проти Москви, яка наважилась на їхні вольності.
Якби Мазепа був хотів, він міг би був дати собі раду з царем, який не міг боронитись. Але він не хотів єднатись із Польщею. Він завів лад і при помочі своїх агентів у Варшаві та на Кримі вмів подати до відома, що Польща, втомившись турецькою війною, почала переговори з Портою, не розпитавши про думку свого московського союзника. Мазепа повідомив про це негайно царя, який був йому вдячний за таку важну звістку.
Для великої справи, до якої Мазепа підготовлявся, довір'я Москви було для нього необхідне. А все ж від 1689 р. до 1691 р. доноси проти нього пливуть до Москви рікою; все це було діло менш-більш довірених агентів Польщі, якій залежало на тому, щоб позбутися сильного гетьмана, що проводив одноцільною, дисциплінованою державою, що не мала симпатій для неї. І тому Мазепа весь час був насторожений: він мав скрізь добрих агентів, часто посилав впливовим боярам дарунки, при цьому ж вів лояльну політику. Донощики виходили із довгим носом, і гетьман не втратив нітрохи довір'я у Петра.
З початку 1692 р. вибухнула пошесть, що десяткувала запорожців і південні округи Полтавщини. Літом сарана знищила майже все жниво і пожежі, спричинені посухою, охоплювали українські міста. Народ нарікав, що все лихо йде із Москви, тим самим і на гетьмана, якого потайних намірів не міг зрозуміти, вважаючи його звичайним прислужником царя. Мазепа добирав довкола себе людей вірних, піддержуючи старшину. Таким робом поволі творив він аристократію, якій розділяв землі і достатки, що досі були загальною власністю козацтва. Ці нові пани, вже справжні українці, поводились із звичайними козаками і селянами, наче зі своїми рабами, а це була річ на Україні невидана. До політичного невдоволення долучились іще соціальні умови. На цій основі повстав бунт Петрика.
У січні 1693 року один писар із державної канцелярії, званий Петриком, покинув Полтаву і втік на Січ. Був це сміливий шибайголова, добрий промовець і не без політичного смислу. Коли тільки опинився він між запорожцями, почав розмальовувати широкі плани: прийшла пора, щоб спільно із татарами піти походом на Україну, яка жде тільки на гасло, щоб прогнати Мазепу. Вся біднота тримала із запорожцями і різала українську шляхту, що тримала з царем.
Значення Петрика зросло швидко; він став головним писарем Січі. Мазепа даремно домагався, щоб його видали; запорожці відмовились, покликаючись на право захисту, яким від віків могли користуватись сини степів. Хитрий Петрик умів іще переконати запорожців, що гетьман висуває таке домагання тільки так про око людське, бо у глибині своєї душі він не ставиться вороже до його проектів.
Потім поїхав він на Крим і переконав хана, що треба почати війну проти Москви. Він навіть підписав із ним «В імені України» союзний договір, яким Україна зрікалася своїх договорів із царем і ставала союзником Криму. Коли Петрик мав уже цей документ у руках, тоді звернувся до запорожців із таким маніфестом: «Болюче дивитись, як чужинці руйнують і гноблять рідний край. Не диво, що таке робить польський король. Колись ми були його піддані, але завдяки Богові та Хмельницькому ми визволились і накоїли Польщі стільки лиха, що вона й досі не може подужати.
Не диво, що нашим ворогом є хан: з давніх-давен ми руйнували його землі.
Та дивне ось що: поведінка московських царів; вони не завоювали нас зброєю; наші предки з власної волі для оборони православної віри піддались їм свободно. І Москва зробила із нас свою передню сторожу: звідки ворог не йде, він у першу чергу руйнує наш край, за яким Москва ховається, як за твердинею. Та і цього їй мало; вона хоче ще зробити з нас своїх невільників».
Цей прецінний документ у розвитку української національної свідомості, написаний в Акмечете, чудовім кримськім місті, названім згодом Симферополь.
Поважна частина запорожців відгукнулась на поклик Петрика і вибрала його гетьманом України. Татари та запорожці пішли походом.
Агенти, вислані Мазепою на Крим і на Запорожжя, повідомляли його день за днем про зріст цього руху. Національна протимосковська програма Петрика покривалась із глибокими пересвідченнями Мазепи і відповідала його оточенню, але вони боялися соціальної еволюції, яку вона мусила була потягти за собою. Петрик хотів відібрати панам їхнє майно; починався вічний конфлікт між двома течіями: національною і соціальною.
Петрик був представником бідноти і селянства, що бажав скинути одночасно московське ярмо та українських панів. Мазепа навпаки: хотів незалежної України для себе і для новоствореної собою аристократії; він і не думав про зміну селянської долі. Він був аристократом і ним залишився. Найкращим доказом цього був гордий маніфест, який він спрямував із Полтави проти бунтаря вже загроженого його військом:
«Що таке? Ти смієш сягати за гетьманським титулом? Нас справді дивує твоє божевілля!
Хто з тебе, нужденна собако, зробив провідника та опікуна?
Чи ми не знаємо, що твій батько був жебраком, що жив у Полтаві з людської милостині і що ти сам, коли ходив до школи, волочився по вулицях із голодранцями і годувався окрушками під нашими вікнами? Ніколи ти не стояв навіть біля шляхтича. Не віримо, щоб хан ішов із тобою. Не можемо допустити думки, щоб така визначна особа могла йти за тобою, ти, брехуне і підла собако! Це, певно, якийсь циган, що зібрав між татарами кілька тисяч волоцюг і називає себе ханом!»
Петрика і його татар побили; на другий рік вони почали нове повстання з такою ж невдачею. Мазепа не стратив з ока своїх намірів, а при цьому зручно показував цареві, яку велику послугу віддав він йому своєю перемогою над Петриком.
У 1695 р. Петро Великий хотів пробити для Росії вікно в Європу на Чорнім морі і зовсім непотрібно почав облогу Азовської фортеці. Мазепі доручили провід над диверсійним наступом на кримського хана, щоб не допустити татарів з допомогою туркам. І цим разом гетьман мав щастя і після кількох могутніх наступів на славну татарську фортецю Кізікерман (нині Берислав), яку вважали непереможною, він здобув її. Мазепа вернувся у тріумфі на свій батуринський замок. Тоді він справді володів Україною.