В то же время подняли головы подданные ханов — правители русских княжеств. Суздальские князья самовольно занимают великокняжеский престол. В этих условиях в 1363 г. Мамай пошел на союз с московскими князьями, выдав им ярлык от имени хана Абдаллаха (1367—1368, 1369—1370) и согласившись уменьшить размер взимаемых в пользу центральной казны выплат. Московским князьям удалось заставить суздальского князя отказаться от великого княжения, но позже Мамай, понимавший опасность усиления московских князей, поддержал претензии суздальской династии также на нижегородское княжение.
Не имея возможности на длительное время занять Сарай и посадить там поддерживаемого им кандидата на ханство, Мамай укреплял позиции в Крыму и Приазовье. Несмотря на несколько попыток овладения Сараем в 1369, 1371—1372, 1374 гг., Мамай в итоге все-таки сумел добиться стабилизации общей обстановки и в 1375 г. провозгласил ханом малолетнего Мухаммад-Булака, но уже тогда же тот был изгнан из Сарая ханом Синей Орды Мухаммадом Урус-ханом. Хотя Мамаю удалось вернуть Сарай, город вскоре был захвачен Каганбегом (1375—1377).
Несмотря на появление на востоке Урус-хана, усиление на западе литовцев, нанесших несколько поражений подчиненным Мамаю эмирам, уже в этот период Мамай был серьезно обеспокоен также и усилением московских князей. Наличие многочисленных претендентов на золотоордынский престол, именовавших себя ханами и требовавших выплат в центральную (т.е. свою) казну, дискредитировало ханскую власть в глазах населения и князей, которые постепенно начинают проявлять все больше самостоятельности в своих действиях: например, горожане могли просто не впустить ханских послов, а князь — просто не признать ярлык, выданный кому-то из его соперников одним из многочисленных ханов. Слабость центральной власти усиливала сепаратизм на местах. Так, несколько поражений, нанесенных Урус-ханом подвластным Мамаю эмирам, привели к 1374 г. к тому что и суздальско-нижегородские и московские князья отказались выплачивать налог поддерживаемому им хану.
В 1375 г. Мамай был вынужден отказаться от попыток овладения Сараем и сосредоточиться на сохранении имеющихся владений: в следующем году он совершил несколько походов на земли суздальско-нижегородских князей. Значительные сложности вызвало расширение влияния генуэзцев в Крыму, которые начали теснить собственно татарские владения. В ответ Мамай конфисковал часть их земель. В этот же период Мамай начал обносить свои располагавшиеся в Крыму города стенами, что вообще не было характерно для городов Золотой Орды.
Несмотря на воцарение в 1375 г. в Хаджи-тархане (Астрахань) эмира, лояльного хану-ставленнику Мамая, в это же время московский князь Дмитрий Иванович побеждает поддерживаемого Мамаем тверского князя, которого вынуждает отказаться от ярлыка на великое княжение. Московские и суздальско-нижегородские князья напрямую признали власть сарайских ставленников Урус-хана, который, хотя и сам вернулся в Синюю Орду, тем не менее продолжал оказывать политическое влияние на территорию Восточной Европы. Так, по требованию поддерживаемого им сарайского хана Каганбега московские и суздальско-нижегородские князья совершили поход в Булгарию, заставив местного эмира признать власть сарайского хана.
Тем не менее самовольство русских князей при выполнении этой операции, когда они произвольно взяли у булгарского эмира большую контрибуцию в свою пользу, заставило Каган-бега направить против них в 1377 г. войско под командованием своего двоюродного брата Арабшаха. Московские и суздальско-нижегородские войска укрепились на р. Пьяне, но поскольку Арабшах действовал достаточно медленно, московские полки решили покинуть своих союзников. Этим воспользовался энергичный Мамай, атаковавший позиции суздальско-нижегородских дружин, предавшихся за долгим ожиданием противника пьянству и гуляньям. За полным разгромом этих войск последовало взятие и сожжение Мамаем Нижнего Новгорода.
Выступивший затем Арабшах смог лишь нанести удары по окраинам Нижегородского и Рязанского княжеств. Однако попытка Мамая совершить в следующем (1378) году показательный карательный рейд против рязанских князей, встретила сопротивление московских князей, в результате чего удачный в целом поход под предводительством мурзы Бегича закончился поражением от московских войск на р. Воже. В то же время более успешно действовал Арабшах, политический соперник Мамая, занявший теперь, к тому же, сарайский престол (1377—1380). Его успешные походы привели под его подданство мордовских князей и заставили подчиняться суздальско-нижегородских.