В такой ситуации Золотая Орда не могла препятствовать попыткам Ольгерда подчинить себе наследство Киевской Руси. В 1355 году Ольгерд впервые применил титул правителя «всея Руси». После смерти от чумы митрополита владимирского Феагноста, великий князь литовский предложил на это вакантное место своего кандидата — Романа, родственника его жены Ульяны Тверской. Однако византийский патриарх утвердил на эту должность ставленника Москвы Алексея.
Тогда, в качестве компенсации, Ольгерд потребовал согласия с возрождением отдельной митрополии на русских землях, включенных в состав Великого княжества Литовского. Константинопольский патриарх утвердил Романа митрополитом литовским с резиденцией в Новогрудке. В подчинение Романа перешли Полоцкое и Туровское епископства. Позднее к ним присоединились Владимирское, Луцкое, Холмское, Галицкое и Перемышльское епархии на территории Малой Руси.
Между литовским и владимирским митрополитами, а фактически между литовским и московским княжествами, которые руководили их действиями, развернулась борьба за контроль над южнорусскими землями. Результатом церковных интриг стало то, что в 1356 году патриарх в Константинополе подтвердил полномочия митрополита Алексея на Киевскую и Владимирскую епархии. Таким образом, Киев, некогда духовный центр русских земель, уходил из-под контроля литовского митрополита.
Новогрудский митрополит проигнорировал решение патриарха и провозгласил себя самовольно митрополитом киевским. В 1358 году в Киев приехал митрополит Алексей. Сразу же по прибытии он был арестован по приказу великого князя литовского и заточен в темницу. Спустя два года Ольгерд, под давлением патриарха, приказал отпустить Алексея.
В 1361 году митрополит Роман скончался. Митрополит Алексей подготовил проект о сохранении единства митрополии всех русских земель «на все последующие времена». Однако проект был отклонен, так как византийский патриарх хотел оставить за собой свободу маневра в русских делах.
В 1355 году Ольгерд посадил своего наместника в крупнейшем центре Смоленского княжества — городе Белая. В следующем году в Брянске скончался князь Василий, который незадолго до того прибыл с ханским ярлыком на княжение. После его смерти в городе вспыхнула междоусобная борьба. Ольгерд воспользовался этим и посадил на брянский престол своего сына Дмитрия.
В том же году ставленник Великого княжества Литовского был посажен на престол в Ржеве. В 1359 году скончался союзник Литвы Иван Смоленский. Литовский князь аннексировал почти половину Смоленского княжества — присожские земли с городами Мстиславль, Торопец, Пропойск, Попова Гора, Мглин и Дроков.
В 1358 году Ольгерд декларировал свою внешнеполитическую задачу. В беседе с послами главы Священной Римской империи он заявил, что «вся Русь должна принадлежать Литве». Очень скоро Великое княжество Литовское посягнуло на непосредственные владения Золотой Орды.
Между тем, в самой Орде за четыре года сменилось десять ханов. Монгольское государство раскололось на две враждебные части, граница между которыми проходила по реке Волга. Литовский князь посадил своих сыновей Владимира и Константина на княжение в бывших ордынских провинциях — Киевской и Черниговской землях.
Позднее Киев и Чернигов регулярно продлевали с великими князьями литовскими тот же самый федеративный договор, который в свое время заключили Полоцк и Витебск. Местные волости и города получали наместников из Киева и Чернигова.
Гигантская, но малозаселенная территория Малой Руси сразу увеличила площадь Литовской державы примерно на треть. Однако их связь со столицей была относительно слабой. Фактически связь новоприсоединенных провинций с Литвой обеспечивалась личной договоренностью Владимира и Константина со своими отцами. Такие же отношения сложились у Великого княжества Литовского с Брянским княжеством, где правил сын Ольгерда Дмитрий.
В 1363 году Ольгерд возглавил крупный военный поход против трех татарских царевичей, которые обо с обились от Золотой Орды и совместно управляли Подольем. В сражении при Синих Водах, на реке Синюсе, притоке Южного Буга, татарское войско трех царевичей было разгромлено.
Эта победа позволила Ольгерду присоединить Подолье к своим владениям. Таким образом, из владений бывшей Киевской Руси почти вся юго-западная часть перешла в состав Литовского княжества. В этот период Ольгерд уже не делит новоприобретенные территории пополам с соправителем Кейстутом, а подчиняет их непосредственно себе.