В 1236 году по приказу рижского епископа орденское войско было отправлено на завоевание Жемайтии. 21 сентября 1236 года ливонцы потерпели сокрушительное поражение от литовского войска во главе с князем Рингольдом (возможно отцом Миндовга — сост.) при Сауле (Шауляе). Сам магистр Винтерштеттен погиб вместе с пятьюдесятью командирами рыцарских отрядов, а сотни рыцарей попали в плен. Орден меченосцев был фактически уничтожен. В марте 1237 года войско ливонских рыцарей во главе с магистром Бруно было разгромлено под Дорогичином дружинами Даниила Романовича Галицкого, внука киевского князя Мстислава Изяславича, оставившего Киев Андрею Боголюбскому, и сына знаменитого Романа Мстиславича, создавшего мощное Волынско-Галицкое княжество, которое после долгой междоусобицы в том же году и возглавил Даниил Романович.
Для спасения Ливонского ордена в папской резиденции Витербо под Римом 14 мая 1237 года был подписан договор об объединении с Тевтонским орденом. Папа Григорий XI утвердил устав нового Немецкого ордена, подчинявшегося теперь рижским епископам. Территория Немецкого ордена во главе с гохмейстером состояла из части Палестины, в которой в Ак-коне находилась столица ордена, острова Сицилия, Франконии (Германии), Западной и Восточной Пруссии и Ливонии — Лифляндии, Эстляндии и Курляндии. «Немецкий орден в Ливонии» возглавлял гермейстер — орденский магистр Герман Балк, бывший одновременно и орденским магистром Пруссии. Рыцари нового объединенного ордена стали одеваться в белые мантии с черным крестом. Основным делом объединенных сил рыцарей стало завоевание северных русских земель. В июне 1238 года в резиденции датского короля Вольдемара II Стенби был заключен немецко-датский договор о совместном разгроме новгородских земель, подписанный самим королем, магистром Тевтонского ордена в Ливонии Германом Балком и папским легатом в Прибалтике Вильгельмом Моденским. Шведы стремились завоевать Карелию и устье реки Невы, датчане хотели занять все юго-восточное побережье Финского залива, орден стремился завоевать Псков. Для захвата важнейшего торгового пути, связывающего Прибалтику с Новгородом по Неве, датчане начали укрепляться в Эстонии, а крестоносцы — в Ливонии и Финляндии. В этом же году Владимиро-Суздальское княжество было завоевано монголо-татарами и стало платить им дань. Через два года пал и Киев и другие города Киевской Руси — из всех русских городов независимыми оставались только Новгород и Псков.
15 июля 1240 года пятитысячное объединенное шведско-норвежско-финское войско во главе с финским епископом Томасом и шведскими рыцарями при впадении реки Ижоры в Неву было разгромлено тысячной дружиной новгородского князя Александра Ярославича и немногочисленными новгородскими, ладожскими и ижорскими добровольцами. Александр Ярославич стал Невским, а шведы до конца ХШ века больше не пытались завоевывать новгородские земли у Финского залива, однако вообще попыток не прекратили и стали осуществлять свои набеги из Ливонии.
В 1240 году орденские рыцари, отряды датского короля и дерптского епископа разгромили псковское войско во главе с воеводою Гаврилою Гориславичем и взяли Изборск, вырезав все местное население. «В лето 6748 (1240) избиша немцы пскович под Изборском 600 муж месяца сентября в 16 день. И по сем пришедше немцы и взяша город Псков и седоша немцы в Пскове 2 лета». 16 сентября 1240 года немецкие рыцари с помощью псковских бояр-германофилов овладели Псковом. Ливонцы «пригонивше под город и зажгоша посад весь, и много зла бысть, и погореша церквы и честные иконы и книги и много сел попустиша». Ослабленная в Невской битве дружина Александра Невского была не в состоянии противостоять этому натиску, а новгородские бояре, не оказав никакой помощи ни Александру, ни Пскову, вынудили князя покинуть Новгород и уехать в Переяславль. Зимой 1241 года немцы захватили чудские земли Новгорода и построили там крепость Копорье. Немецким отрядам оставалось пройти до Новгорода 30 километров. Новгородцы попросили у Ярослава Всеволодовича князя и он прислал своего сына Андрея, который не смог остановить немцев. Новгород опять попросил Александра Невского, который прибыл в город в марте 1241 года. Собрав войско, Александр захватил и разрушил Копорье. В начале 1242 года на помощь Александру с владимирскими полками пришел его брат Андрей. Братья с войсками неожиданно отбили Псков. Немцы и войско Александра Невского встретились «на Узмени у Воронтея камня». Победа Александра Невского на Чудском озере 5 апреля 1242 года, в которой 500 рыцарей было убито и 50 взято в плен, остановила на длительный срок немецкую экспансию. Немецкий орден начал завоевание земель пруссов, куршей и Литвы. В 1243 году орденские рыцари разбили пруссов и заняли северные польские земли. 1 октября 1243 года был подписан договор о взаимной защите и помощи между епископами Риги, Тарту, Эзеля и вице-магистром Тевтонского ордена в Ливонии.