Орден возглавлял Великий Магистр, который командовал войском, для ведения орденских дел был наделен неограниченной властью, лишь только в некоторых случаях подчиняясь Совету общего собрания-капитула братьев-рыцарей. Вторым в иерархии был капеллан — орденский канцлер и хранитель печати. Высокое положение занимали казначей и драпир, ведавший орденским вооружением и снаряжением. Управлением и судом в завоеванных землях Эстонии и Латвии ведали провинциальные орденские магистры-командоры, фогты и попечители-начальники замков. Все рыцари, жившие в одном орденском замке, составляли конвент во главе с попечителем. Частные и генеральные собрания братьев конвента назывались капитулами.
Ленными властителями ордена меченосцев были епископы, дававшие ордену земли во владение на праве епископского вассала. Епископ принимал присягу в верности и послушании орденского магистра, как ленном, так и каноническом. Орден подлежал епископскому суду и находился в его духовной и светской юрисдикции. На эстонских и латвийских землях было создано орденское рыцарское государство — Ливония — сразу же ставшее угрожать Новгороду.
В 1217 году объединенное новгородско-эстонское войско совершило удачный поход в Южную Эстонию. Генрих Латвийский в «Хронике Ливонии» писал: «В 1217 году новгородцы собрали большое русское войско, с ним же был и король псковский Владимир со своими горожанами, и послали звать по всей Эстонии, чтобы шли эсты осаждать тевтонов». В 1218 году Новгороде копсковское войско дошло до замка Венден и осадило резиденцию магистра Ливонского ордена. Почти тогда же, в 1219 году датскими войсками была захвачена Северная Эстония и на месте селения эстов Линданисе был основан «Датский город» — «Таани линн» — Ревель, впоследствии ставший Таллинном, и приказом епископа Рижского основано Эстляндское епископство
В 1221 году объединенное русское войско владимирского князя Юрия Всеволодовича из Новгорода ходило осаждать орденскую крепость Венден. В походе участвовало и 600 литовцев, которые после окончания похода еще целый месяц оставались в Пскове. В 1222 году эсты, которым помогали отряды новгородцев и псковичей, уничтожили гарнизоны крестоносцев в Эзеле, Феллине и Оденпе. Однако уже через год, год первой битвы войска русских князей с татаро-монголами на Калке, крестоносцы разбили войско эстов на реке Имере и вернули все города. На помощь эстам двинулось русское войско во главе с новгородским князем Ярославом Всеволодовичем, которое дошло до Ревеля и «повоевало всю землю Чюдскую». Генрих Латвийский писал: «И послал король суздальский своего брата, а с ним много войска в помощь новгородцам; и шли с ним новгородцы и король Псковский со своими горожанами, а было всего в войске около 20000 человек». В Юрьеве и Оденпе были оставлены русские гарнизоны. Однако в 1224 году ливонскими рыцарями был взят город Юрьев-Дерпт, основанный в 1030 году Ярославом Мудрым в чудской земле, и в виде отдельного государства было образовано Дерптское епископство. Эсты были полностью разгромлены. Русские были вытеснены из Эстонии, а орденско-псковская граница стала проходить всего в 30 километрах от Пскова.
В 1228 году римский папа Григорий IX разослал свой приказ-буллу в Любек, Ригу, Готланд, Динамюнде и шведский Липчепинг, в котором в категорической форме потребовал прекратить торговлю с русскими землями, которые для начала должны были быть отрезаны от Запада. Не все купцы послушали папу. Так, Рига и Готланд заключили договор с Мстиславом Давыдовычем Смоленским «о взаимном благоприятствовании» и торговли.