Неясности относительно титула руководителя германского госпиталя показывают, до какой степени папство колебалось узаконить раскол между германским госпиталем и орденом госпитальеров Св. Иоанна. Однако с момента своего размещения в Акре братья госпиталя Святой Марии благодаря многочисленным и приносившим им прибыль дарениям стали финансовой силой, с которой нельзя было не считаться. Уже в 1193 г. они были в состоянии купить у короля Ги де Лузиньяна целый квартал в городе. Военный характер госпиталя Святой Марии проявился в том же году, когда король поручил им защиту барбакана, затем в 1198 г. защиту ворот Св. Николая, башни Шатр и королевского барбакана.
Госпиталь Святой Марии был предметом пристального внимания со стороны императора Генриха VI, преемника Барбароссы, и всех германских князей. Благодаря поддержке императора папа Климент III подтвердил повторное основание госпиталя 6 февраля 1191 г. Затем его преемник Целестин III буллой от 2 декабря 1196 г. окончательно санкционирует существование ордена Святой Марии Иерусалимской как монашеской общины, жившей по уставу Св. Августина и подчинявшейся только Святому престолу. В 1197 г. Генрих VI приступил к подготовке большого крестового похода с целью освободить Иерусалим; свыше двадцати князей империи, светских и церковных, ответили на его призыв, но смерть императора 28 сентября 1197 г положила конец планам крестоносцев. Однако находившиеся в Святой земле германские князья хотели получить официальное признание превращения этого монашеского ордена в орден военный, о чем объявили в 1198 г. на ассамблее, состоявшейся в Акре.
Именно папа Иннокентий III (1198-1216) окончательно прояснил ситуацию вокруг статуса ордена госпиталя Святой Марии. 19 февраля 1199 г. документ папской канцелярии уточнял, что орден будет починяться уставу ордена госпитальеров во всем, что касается их благотворительной деятельности; что до братьев-рыцарей, им надлежало подчиняться уставу тамплиеров и носить, как и они, белый плащ, но с черным крестом вместо красного креста рыцарей Храма.
К этому времени основанный таким образом орден владел, помимо своего главного дома в Акре, пятью другими домами на Святой земле — в Газе, Яффе, Аскалоне, Рамле и Замси. В 1197 г. орденские братья обосновались в Барлетте в Южной Италии, в Палермо на Сицилии, откуда в Палестину отплывало большинство германских паломников.
С этого времени уже можно говорить о Тевтонском ордене, поскольку, в отличие от двух существующих военно-монашеских орденов — госпитальеров и тамплиеров, — набор в орден и монашескую общину производился исключительно из германцев. Официальное название остается прежним — орден Госпиталя Святой Марии Немецкой в Иерусалиме и напоминает об иерусалимских истоках бывшего странноприимного дома Св. Марии. Но в обиход постепенно вошло название Немецкий орден (der Deutsche Orden), или орден тевтонских рыцарей (der Deutsche Ritterorden), Профессор Жан Ришар подчеркивает: «Тот факт, что немецкие рыцари объединились в ордене Святой Марии Тевтонцев — германском островке посреди франкоязычной страны, — указывает на изменения, которые приведут к денационализации населения Святой земли», до того сплоченного в единую «иерусалимскую нацию».
Распространение деятельности Тевтонского ордена вне Святой земли не ограничивалось Италией; затронуло и германский мир, где были основаны командорство Зоннтаг в Штирии и госпитали в Галле в Тюрингии в 1200 г., затем в Бозене (Бользано) двумя годами позже; в 1204 г. в Праге и Вене были созданы новые командорства, затем в 1207 г. в Рейхенбахе в Гессене, в 1209 г. в Нюрнберге, в 1210 г. в Айхахе и Регенсбурге в Баварии. В 1206 г. был основан госпиталь на Сицилии, в 1209 г. после Четвертого крестового похода тевтонские рыцари обосновались в Греции на юге Пелопоннеса.
Итак, Тевтонский орден на заре XIII столетия существовал самостоятельно наряду с двумя другими военно-религиозными конкурирующими орденами — госпитальерами и тамплиерами. Во главе его стоял великий магистр, избираемый генеральным капитулом. Первым великим магистром, избранным в 1198 г., был, как уже упоминалось выше, Генрих Вальпот фон Бассенхайм, которого можно идентифицировать как «приора Генриха», назначенного в 1193 г. госпитальерами; Генрих Вальпот, скорее всего, был выходцем из купеческой семьи города Майнца. Братья тевтонского ордена делились на три группы: рыцари, служители и священники. Все были связаны обетами бедности, целомудрия и смирения; но рыцари, братья-оруженосцы и слуги клялись обеспечивать защиту крестоносцев и паломников на пути в Святую землю.