Як це не дивно, ми дуже мало знаємо про те, чи були у Івана Мазепи діти. За одними даними, у подружжя народилася донька Варвара та син Іван, які померли в ранньому дитинстві. Принаймні про доньку гетьмана в 1704 році писав гамбурзький тижневик «Historische Remarks» (не слід недооцінювати обізнаності тогочасної європейської преси в українських справах!).
Кар’єру Івана Мазепи в Чигирині обірвав Його Величність Випадок (а не якась «патологічна схильність Мазепи до зміни покровителів», як це нерідко твердять деякі публіцисти). У червні 1674 року Мазепа очолив загін татар та козаків Дорошенка, які мали відвезти до Криму листи та п’ятнадцятьох полонених українців з Лівобережжя у дарунок ханові. Такою була жорстока політична реальність тих часів – український гетьман платив кримському ханові за допомогу українськими ж рабами. Проте ні полоненим, ні Мазепі не судилося дістатися Криму. Десь поблизу річки Інгул 11 червня загін потрапив у засідку, влаштовану запорожцями – тогочасний кошовий отаман, славнозвісний Іван Сірко, виступав проти українсько-турецького союзу, завдаючи дошкульних ударів по Кримському ханству і руйнуючи плани Дорошенка. Розлютовані запорожці, схоже, не церемонилися з татарами та людьми Дорошенка, але Мазепу залишили живим – за легендою, переказаною літописцем Самійлом Величком, Івана Степановича врятував особисто Сірко, нібито зауваживши, що ця людина ще знадобиться Україні. Таке «пророцтво» здається дуже схожим на пізнішу легенду, але фактом є те, що Сірко не хотів віддавати Мазепу (таланти якого, вочевидь, оцінив) гетьманові Самойловичу. Той, дізнавшись, що генеральний осавул Дорошенка потрапив у полон до запорожців, вимагав його видачі. Лише дипломатичний тиск Москви, з якою Січ в даний момент не бажала псувати відносини, змусив Сірка відправити свого бранця до Батурина – столиці лівобережних гетьманів. Сталося це в липні 1674 року.
Опинившись у новій, спочатку навіть загрозливій обстановці, Мазепа зумів швидко зорієнтуватися. Йому вдалося здобути довіру Самойловича, взагалі не дуже схильного комусь довіряти (так, він підозрював власного сина Григорія у намірах відібрати гетьманську булаву). Але Мазепу (його дружина Ганна була далекою родичкою гетьманової племінниці Марії Самойлович через Горленків) Самойлович невдовзі робить «гетьманським дворянином», а згодом генеральним осавулом.
Мазепа як генеральний військовий осавул бере участь у Чигиринських походах козацького війська 1677 та 1678 років, коли об’єднані армії Самойловича та російського боярина Г. Ромодановського боронили Чигирин від турецької навали, веде переговори в Москві про статус Слобожанщини (відбувалися вони наприкінці 1680 – у 1681 році), але російський уряд категорично відмовився передати слобідські полки під контроль гетьмана Лівобережної України, залишивши їх у прямій залежності від бєлгородського воєводи. У січні 1686 року Мазепа разом із сином Івана Самойловича Григорієм передає російському уряду українські застереження і побажання у зв’язку з горезвісним «Вічним миром» Росії та Польщі (який став черговим порушенням Росією Березневих статей Б. Хмельницького – адже в них йшлося про відвоювання у поляків усієї козацької України, Вічний же мир фіксував поділ України між Москвою та Варшавою по Дніпру та передбачав російсько-польський союз проти Туреччини). У Івана Степановича з’являються зв’язки у колах російської знаті. Так, він знайомиться з фаворитом цариці-регентки Софії – князем Василем Голіциним.
Слід зауважити, що в цей період свого життя Іван Мазепа, крім дипломатичних місій до Москви, бере участь і в суто українських справах – наприклад, у виборах Київського митрополита. З небагатого «гетьманського дворянина» Іван Степанович поступово стає на Лівобережжі поважною людиною зі значними маєтностями.
У цілому ж цей період у житті Івана Мазепи був своєрідною підготовкою, «школою політичного життя», часом формування «володаря України». Ця справді незвичайна людина мала особливий талант приваблювати до себе надзвичайно різних особистостей, могла говорити з кожним його мовою, як захоплено відзначав український дослідник-емігрант Ілько Борщак. «Ніхто бо, – писав Пилип Орлик в одному зі своїх листів, – не міг краще обробити людину, привабити її до себе. Не осягнувши з першого разу своєї мети, він не складав зброї, не кидав обробляти людину, аж доки не робив своєю». Освічений, розумний і ерудований, зі знанням мов, тактовний і спритний, Іван Мазепа, на думку його англійського біографа Кларенса Меннінґа, був справжнім «gentleman of the Renaissance», людиною, схожою на багатогранних політиків-аристократів доби Ренесансу. При всіх свої блискучих, сильних рисах такий зразок мав і слабкі сторони – наприклад, схильність до авторитарності.