I Cavalieri Teutonici si costituirono in un ordine monastico religioso simile a quelli degli ospitalieri e dei templari per proteggere i pellegrini e curare i malati in Terrasanta. Avevano un ospedale fondato da mercanti di Brema e di Lubecca in Terrasanta. La costituzione dell'Ordine avvenne nel 1128 a Gerusalemme. Nel 1198, un gruppo di cavalieri tedeschi lo rifondava accentuandone il carattere militare. Federico II nel 1212, perfezionò tale riforma, adeguando gli statuti al modello ospitaliero per quanto concerneva i doveri inerenti la religione e al modello templare per quel che riguardava la guerra.
I cavalieri teutonici non si differenziavano dagli altri crociati, indossavano ampi mantelli bianchi alla maniera dei templari, contrassegnati da quella caratteristica croce nera "patente" che sarebbe divenuta la croce germanica, ed ostentavano sull'elmo vistose piume, anch'esse nere. Sugli scudi e sui sigilli ricorreva l'emblema dell'aquila, un'aquila dalle ali aperte e gli artigli protesi a ghermire, ma si trovavano anche altri animali araldici, quale il leone rampante.
C'è una differenza fondamentale tra i cavalieri teutonici e gli altri ordini sorti all'epoca delle crociate. Mentre gli altri erano nati e si erano sviluppati in un'ottica universale, i teutonici rimasero vincolati fin dalle origini ad un'idea nazionale rigidamente circoscritta alla Vaterland germanica. Altre imprese li attendevano sui lidi settentrionali dell'Europa, dove c'era da cristianizzare le tribù baltiche e le inesplorate lande orientali. Lì, nel gelo a loro tanto familiare si compì il destino di questi crociati del ghiaccio. Tre papi s'interessarono all'Ordine contendendone all'imperatore il controllo: Clemente III, che assicurò ai cavalieri l'approvazione ecclesiastica; Celestino III, che diede loro la regola monastica di sant'Agostino ed Innocenzo III, che ne ratificò la costituzione, ponendoli sotto la protezione della Vergine. In tal modo, con il duplice avallo dell'impero e del papato entravano negli annali della cristianità i cavalieri dell'Ordine teutonico di Santa Maria in Gerusalemme, detto anche di Nostra Signora dei tedeschi (Ordo Sanctae Mariae Tèutonicorum) o più semplicemente Deutsche Orden.
Tra le differenze che fin dalle origini caratterizzarono l'Ordine rispetto alle altre organizzazioni analoghe, a parte la rigida norma che precludeva l'accesso a chiunque non fosse aristocratico e di lingua tedesca, è il ruolo riservato alle donne, che furono sempre presenti e attive nei suoi ranghi per l'assistenza ai feriti e agli ammalati.Per lo stretto rapporto d'intesa con l'imperatore Federico II, rappresentato nell'Ordine da maestri di sua fiducia, i cavalieri teutonici acquisirono un esteso potere in Puglia e in Sicilia. Ma il loro grande sogno di gloria era rivolto all'estremo Nord dell'Europa, dove fin dall'inizío del secolo XIII intrapresero una complessa opera di conquista, senza trascurare con questo la Terrasanta.
Con la perdita di Gerusalemme e dei regni cristiani d'oltremare, i cavalieri teutonici abbandonarono la Terrasanta per concentrare la loro forza sull'esteso fronte che dal Baltico si prolungava verso oriente, su territori nei quali la loro guerra di religione e di conquista si era da tempo trasformata in intensa e sanguinosa opera di colonizzazione.Mantenendo uno stato di guerra permanente, che lo pose a confronto con i danesi e con i lituani, con i polacchi, con i russi e con i mongoli, l'Ordine realizzò qui la sua funzione storica più duratura, ponendo le basi per la nascita della Prussia moderna mediante un capillare progetto d'insediamento e civilizzazione nelle Marche tedesche dell'Est.
Potendo contare sulle medesime concessioni che
l'imperatore fece ai principi tedeschi, lo stato dei cavalieri assunse tale
potenza da spingersi con le proprie armate oltre la Polonia, su per la costa
baltica e più avanti, verso la Russia. Sorsero così, in tempi brevissimi, città
come Riga, Koenigsberg, Marienwerde, Kulm, fortezze come Marienburg e Gollub,
porti e centri di attività commerciali floridissime, per arrestare l'urto delle
ricorrenti migrazioni barbariche sul versante orientale d'Europa.
Contribuì a rafforzare la potenza teutonica la
fusione con l'Ordine polacco dei cavalieri di Dobrino e con quello dei Portaspada
di Livonia. Accresciuta così la propria forza militare, lo stato dell'Ordine
teutonico si estese inglobando la Pomerania e Danzica (1309), l'Estonia (1346),
la Lituania (1370), l'isola di Gotland (1398) e altre vaste contrade. Dopo avere umiliato e sottomesso tutti i
loro vicini, ed essersi elevati al rango di grande potenza europea, i cavalieri
teutonici videro profilarsi un rapido declino all'inizio dei '400. Sconfitti
disastrosamente a Tannenberg nel 1410 da Ladislao II di Polonia, furono costretti
ad accettare trattati che ne ridimensionarono notevolmente la potenza.
Stretti nella morsa dei principi tedeschi avidi di terre, da un lato, e delle
popolazioni slave, dall'altro, si trovarono a fronteggiare difficoltà sempre
maggiori, accentuate dall'affermarsi della riforma luterana. Fu proprio quest'ultimo movimento a
generare la crisi definitiva dell'Ordine. Contaminati essi stessi dalle nuove
idee religiose, questi incrollabili cavalieri della fede si divisero tra
luterani e papisti, entrando fatalmente in conflitto tra loro, finché nel 1525
il gran maestro Alberto di Brandeburgo aderì alla causa protestante,
trasformando la Prussia in ducato ereditario brandeburghese.
Si dissolse quindi lo stato teutonico, non l'Ordine, che sopravvisse sotto l'ala della monarchia
asburgica, presso la quale si rifugiarono gli ultimi cavalieri rimasti fedeli
al credo cattolico. La protezione asburgica servì a impedire, in
seguito, il tentativo di sopprimere l'Ordine da parte di Napoleone Bonaparte.
Francesco I d'Austria ne riorganizzò gli statuti nel 1834.Riformato in conformità al diritto canonico nel
1929, l'Ordine teutonico ha oggi accentuato il suo carattere monastico, in
conformità con gli statuti approvati dalla Santa Sede nel 1965.