В 1236 году войско кровавых рыцарей предприняло попытку завоевать и ливонские земли, однако воины объединенного Литовского государства опрокинули рыцарей.
Через год два ордена, Тевтонский и Ливонский, объединились. Магистру тевтонцев (получившему титул гроссмейстера) подчинился магистр Ливонского ордена (получив титул ландмейстера). Объединив свои силы, германские рыцари стали готовиться к новому походу на Восток.
Орден обладал немалым преимуществом перед теми, на кого шел войной: ему покровительствовали самые могущественные люди того времени — папа римский и германский император. Заключив союз со шведскими феодалами, орден рыцарей стал угрожать Пскову и Новгороду. «Укорим словенский язык» — таким, по словам летописца, был лозунг тевтонцев. Римские папы стремились к мировому господству, и конечно, их весьма интересовала богатая Русь. Руками тевтонцев поработив ливов, эстов и пруссов, Католическая церковь готова была теперь к завоеванию Руси.
В июле 1240 года в Финском заливе появляется шведская флотилия. Она проходит по Неве и останавливается в устье Ижоры. Захватив Изборск, а затем и Псков, шведы подошли вплотную к Новгороду. Утром 15 июля русское войско, которым командовал новгородский князь Александр Ярославич, напало на шведов и одним ударом разгромило их. За победу в этой битве Александр был назван Невским; русский князь, как повествует летопись, «самому королю возложи печать на лице острым своим мечом».
После победы русского войска и под Псковом Александр Невский вошел во владения тевтонцев, «землю ордена пожже и повоева, и полона много взя, а иных иссече». Пятого апреля 1242 года произошла историческая битва с тевтонцами на Чудском озере, получившая название Ледового побоища. Рыцарям был нанесен тяжелый урон: 500 тевтонцев было убито, еще 50 попали в плен. Победа на Чудском озере имела огромное значение для дальнейшей истории и русского, и других народов Восточной Европы. Тевтонцы были остановлены и больше не помышляли о разрушительных походах на восток.
Наибольшим могуществом Тевтонский орден обладал в конце XIV — начале XV веков, получив большую помощь от западноевропейских феодалов и папы римского. В борьбе против этой грозной силы объединились польские, русские и литовские войска. В 1409 году вновь вспыхнула война, получившая название Великой. Решающая битва между Тевтонским орденом и польско-литовско-русскими войсками произошла 15 июля 1410 года под Грюнвальдом (ныне Жальгирис или Танненберг). Великий князь Литовский Витаутас разгромил основные силы тевтонцев. Этим был положен конец экспансии немецких феодалов и крестоносцев на Восток, продолжавшейся 200 лет. В битве погибли гроссмейстер ордена Ульрих фон Юнгинген и почти все члены военного руководства ордена. Так была сломлена военная и политическая мощь тевтонцев, развеяны их планы господства в Восточной Европе. После поражения орден уже не восстановился в своем былом могуществе. На этот раз напрасно руководство тевтонцев ждало помощи у папы и у вселенских соборов: в это время папа старался укрепить пошатнувшийся авторитет католической церкви. Под объединенными ударами Польши и восставших городов Тевтонский орден признал себя побежденным и отказался от политической самостоятельности.
В 1466 году заключенный Торуньский мир возвращает Польше поморские земли с Гданьском, Кульмскую землю и часть Пруссии. Земли, оставшиеся за орденом, становятся вассальными владениями Польши. Гроссмейстер тевтонцев теперь был обязан приносить присягу польскому королю и лишался права самостоятельно заключать союзы или объявлять войну.
Судьбоносные события для Тевтонского ордена развернулись в первой четверти XVI века. Второго апреля 1525 года гроссмейстер тевтонцев Альбрехт Гогенцоллерн вошел в Краков — столицу Польши — в белом плаще «священного воинства», украшенном черным орденским крестом, а уже 8 апреля подписал с Польшей мир не как гроссмейстер Тевтонского ордена, а как герцог Пруссии, вассал польского короля Сигизмунда. По этому договору утрачивались все старые привилегии, которыми пользовались тевтонцы, однако оставались в силе все права и привилегии прусского дворянства. Еще через день на старом рынке Кракова коленопреклоненный Альбрехт принес присягу на верность королю Польскому. Иначе говоря, 10 апреля 1525 года родилось новое государство. Тевтонский орден был ликвидирован ради того, чтобы существовала Пруссия.
Ордену суждено было возродиться лишь в 1834 году в Австрии (при гроссмейстере Антоне Викторе, который стал называться хохмейстером), а вскоре де-факто и в Германии, хотя официальное орденское руководство утверждает, что в этой стране тевтонцы возобновили свою деятельность только после окончания Второй мировой войны, после развернувшихся на них гонений при нацизме. Орден лишился политических и военных амбиций и сосредоточил усилия на благотворительности.