После взятия города крестоносцами «тевтонские» госпитальеры получили в свое распоряжение каменный странноприимный дом – нечто вроде гостиницы или постоялого двора, где нуждавшиеся в помощи всякого рода крестоносцы и просто паломники получали бесплатно пищу, кров и первую медицинскую помощь. Подобно названиям других сходных благочестивых объединений той эпохи, название братства странноприимцев-тевтонов (как только их не называли в последующие времена – «немецкие господа», «господа Немецкого Дома», «круциферы», «круцисигнати», «кавалеры Святой Марии», «мариане», «марианцы» или просто «крестоносцы»), следовавших первоначально уставу ордена Святого Иоанна (что может быть, при желании, расценено как косвенное свидетельство в пользу их первоначальной зависимости от Иерусалимского госпиталя иоаннитов), указывало на их неразрывную связь со Святым градом Иерусалимом как идейным центром всех крестоносцев.
Избрав небесной покровительницей своего благочестивого братства Пресвятую Богородицу и Приснодеву Марию, они, хотя и основали свой первый госпиталь не в Святом граде, а в пригороде Аккона – морских ворот Палестины и главнейшего оплота воинов Христовых в Святой земле, тем не менее назвали его «Немецкий (Тевтонский) странноприимный дом Пресвятой Девы Марии, что в Иерусалиме», дав аналогичное название и самому своему госпитальерскому братству. Жили они в большой бедности, питаясь «хлебом смирения и водой сердечного сокрушения», «об одежде и пище пеклись лишь настолько, насколько это было жизненно необходимо». Избрав истинную нищету, они отказались от собственных желаний; и так во имя Христа они связали жизнь свою с разными бесчисленными неудобствами, опасностями, заботами, тревогами. По словам брата Петра из Дусбурга, летописца Тевтонского ордена, «…из холщовых мешков, в которых по морю перевозилась для них мука, делали они холщовые одежды, в которые с радостью одевались». Перед возвращением из Палестины на родину купцы – основатели тевтонского странноприимного братства поручили свой госпиталь заботам двух спутников знатного германского крестоносца герцога Фридриха Швабского, сына римско-германского императора, – его капеллану (священнику) Конраду и камерарию (камергеру, то есть ключнику) Буркхарду.
Сам герцог Фридрих Швабский взял новое благочестивое братство (к которому стало постепенно примыкать все больше воинов, в том числе и рыцарей, для охраны немецких странноприимцев от набегов сарацин – этим собирательным названием, происходившим от названия одного из арабских племен, крестоносцы обозначали всех мусульман, как арабо-, так и тюркоязычных) под свое покровительство и наилучшим образом рекомендовал его своему брату, императору Генриху VI. Благодаря его стараниям братство было официально признано папой римским Климентом III, а его признание, в свою очередь, подтверждено 21 декабря 1196 г. папой Целестином III. Но уже по прошествии всего 8 лет со дня основания, в 1198 г., это немецкое странноприимное братство было – по примеру других орденов крестоносцев, например тех же иоаннитов, с согласия двух старших рыцарских орденов – храмовников-тамплиеров (темплариев) и иоаннитов-госпитальеров (госпиталариев) – преобразовано в рыцарский союз и в качестве такового официально признано папой Иннокентием III буллой от 19 февраля 1199 г. Папа (а точнее говоря, антипапа, возведенный на римский престол волей германо-римского императора) Григорий III (1191–1198) в 1196 г. даровал новому сообществу обычные привилегии, предоставляемые всем орденам. Превращение братства в рыцарский орден произошло весной 1198 г. на собрании в акконском орденском Доме тамплиеров. 11 епископов и 9 светских германских имперских князей, пребывавших в Акконе в связи с крестовым походом императора Генриха VI, встретились там с великими магистрами тамплиеров и иоаннитов. Согласно их решению, Тевтонский орден должен был отныне руководствоваться в отношении клириков (священников), рыцарей и прочей братии уставом (правилами) тамплиеров, а в отношении ухода за бедными и больными – правилами иоаннитов.