Тем не менее князья все-таки действительно осознавали необходимость сплочения сил против кочевников. Это осознание в конечном счете и примирило их, и позволило начать общую борьбу с половцами. Разгром части половецких орд и гибель нескольких видных ханов ослабили натиск степняков. В 1101 году половцы предпочли заключить мир, а с 1103-го князья уже сами перешли в наступление, отгоняя противника от своих границ. В 1111 году на реке Сальнице русская рать нанесла сокрушительное поражение объединенным силам половецких ханов.
В борьбе с половцами выдвинулся переяславский князь Владимир Всеволодович Мономах, прозванный так по родовому имени своей матери — византийской принцессы. В 1113 году после смерти непопулярного князя Святополка Изяславича Владимир занял киевский стол. Его восшествие на трон прекратило вспыхнувший в Киеве бунт. Мономах принял новое законодательство — Устав Владимира Всеволодовича, ограничивший возможность обращения в рабство за долги и произвол ростовщиков.
Обретя, наконец, великое княжение, от которого некогда — после смерти отца — вынужден был отказаться, Владимир продолжил добиваться сплочения сил Руси против половцев. Он совершил ряд успешных походов на Степь. В 1120 году половцев выбили за Дон. В результате междоусобных конфликтов 1116—1119 годов, подчинив своей власти одних князей и изгнав других, Владимир на время обеспечил единство государства. Он устроил брак своей дочери Марии с греком-самозванцем, выдававшим себя за наследника византийского престола Льва Диогена — «царевича Девгенича». Владимир надеялся использовать это для расширения влияния Руси на Балканах. Однако война 1116—1118 годов — последнее вооруженное противостояние Руси с Византией — закончилась для первой неудачно.
Князь придавал немалое значение обоснованию и возвеличиванию своих деяний и сам составил первую в русской литературе автобиографию — летопись своих походов. Главным же его сочинением было «Поучение» — наставление сыновьям в христианском благочестии и искусстве властвовать.
Владимир Мономах правил в Киеве 12 лет — довольно долго по тем временам, а после его смерти (1125) власть наследовал его сын Мстислав, прозванный Великим. Ему вновь пришлось иметь дело с сепаратизмом уделов, но в 1126—1130 годах он сломил сопротивление строптивых родственников. Киевский князь захватил даже живший наособицу Полоцк. На южных рубежах половцы были потеснены за Волгу или даже за Урал. Но княжение Мстислава было недолгим — в 1132 году он умер.
«Разодралась вся Русская земля», — отметил в связи с начавшимися событиями новгородский летописец. Действительно, вместе с Мстиславом единая Киевская Русь была погребена окончательно. Сразу же восстал и отложился Полоцк. Вскоре началась борьба за Киев между Мономашичами и черниговскими Ольговичами. Усобица между княжескими родами продолжалась без перерыва более тридцати лет. Менялись участники и их альянсы. Клан Мономашичей почти тотчас раскололся, и к началу 1150-х годов за великокняжеский стол сражались Изяслав Мстиславич и его дядя Юрий Долгорукий, княживший на северо-востоке Руси.
Среди этих смут Новгород стал самоуправляемой республикой. Еще в 1136 году отсюда изгнали Всеволода Мстиславича, племянника великого киевского князя Ярополка Владимировича, и призвали на его место Святослава Ольговича. С этих пор Новгородом правило местное боярство, выбиравшее из своей среды глав городского самоуправления — посадника и тысяцкого. Князей призывали и изгоняли решениями вечевых собраний, хотя иногда и под давлением извне.
Сразу после смерти Мстислава в 1132 году орды степняков вернулись к границам Руси и охотно ввязались в междоусобные распри русских князей. К этому времени их ханы уже неоднократно роднились с Рюриковичами и в жилах некоторых князей текла половецкая кровь. К середине XII века кочевники вновь начали самостоятельно нападать на русские земли, не дожидаясь приглашения от князей-союзников. Они мешали русской торговле, грабя проезжавшие степью купеческие караваны. Сильнейшими половецкими ордами стали Донецкая во главе с Атраком, сыном Шарукана, и Лукоморская, которую уже в 1170-х годах возглавил хан Кобяк.
В ходе распрей, последовавших за кончиной Мстислава Великого, великокняжеская власть окончательно превратилась из высшего авторитета в яблоко раздора. Ни один из сменявших друг друга князей не продержался в Киеве и десяти лет. Между тем крупнейшие удельные княжества были гораздо более стабильны. «Отчины» удельных князей, служа тылами претендентам на великокняжеский престол или вовсе не участвуя в затянувшейся смуте, превратились к середине XII столетия в настоящие государства в государстве.