De kiem voor de Duitse Orde werd gelegd in september 1189 tijdens de Derde, “Duitse”, Kruistocht van 1189-1182. Tijdens het beleg van de Syrische havenstad Akko werd, op initiatief van Duitse geestelijken en kooplieden uit Bremen en Lübeck, buiten de stadsmuren begonnen met de bouw van een eenvoudig veldhospitaaltje. Zij wilden een eigen onderkomen bieden aan de talrijke Duitse pelgrims en kruisvaarders. Hun eigen mensen zouden dan voor hun medische verzorging niet langer uitsluitend aangewezen zijn op de als hooghartig te boek staande, voornamelijk Franstalige Tempeliers en de overwegend Italiaanssprekende Johannieters.
Onder leiding van ene Siebrand werden de eerste provisorische voorzieningen gemaakt om het de zieken en gewonden wat gerieflijk te maken in de moordende hitte en de erbarmelijke hygiënische omstandigheden. Volgens de verhalen werd voor het eerste hospitaal gebruik gemaakt van stukken zeil, die van de Duitse schepen werden gehaald. Daarvan werden afdakjes gemaakt om de zieken en gewonden te beschermen tegen de zon. Tot degenen die als eersten deel uitmaakten van de broederschap, behoorde mogelijk ook Herman van Salza, de latere hoogmeester van de orde. Het hospitaal bleef bestaan, ook nadat Akko veroverd was en de meeste Duitsers naar hun land waren teruggekeerd. Door schenkingen ( Hendrik van Champagne) kon het primitieve onderkomen worden verruild voor een gerieflijker behuizing in de stad.
Op voorspraak van keizer Hendrik VI nam paus Clemens III op 6 februari 1191 de bescherming op zich van de “Duitse Broeders van de Kerk van de Heilige Maria van Jeruzalem”. Enkele jaren later, op 2 december 1196, verleende paus Celestinus III de orde onder meer het recht haar eigen ordemeester te kiezen. Ook bepaalde hij dat de orde als kleding de witte mantel met het zwarte (Griekse) kruis mocht dragen. Dit tot ongenoegen van de Tempeliers, die moeilijk konden verkroppen dat zij niet langer het alleenrecht hadden op het gebruik van dit kruis op hun mantels. Door omvangrijke schenkingen en privileges maakte de Duitse Orde een snelle groei door. Door toedoen van de grootmeester van de Broederschap, de uit Bassenheim (bij Koblenz) afkomstige Hendrik Walpot, werd de verplegende orde in 1198 omgevormd tot een ridderorde.
De privileges die paus Celestinus III aan de orde had verleend, werden in februari 1199 bevestigd door diens opvolger Innocentius III. De kersvers gekozen paus gaf ook zijn goedkeuring aan de overgang van de Duitse Orde van een broederschap tot een ridderorde. Hendrik Walpot werd de eerste ordemeester. Akko, het middelpunt van het Heilig Land, werd aangewezen als hoofdzetel van de orde. Vanaf dat moment was de Duitse Orde een volwaardige ridderorde, vergelijkbaar met de Tempeliers en de Johannieters. Vanaf 1221 was de Orde alleen gehoorzaamheid aan de paus verschuldigd en stond daarmee ook formeel op gelijke hoogte met beide andere ridderordes.
Naar voorbeeld van de andere ridderordes, legden ook de leden van de Duitse Orde de geloften van armoede, kuisheid en gehoorzaamheid af. Net als de andere ridderordes werd de orde gevormd door ridderbroeders, priesterbroeders, en lekenbroeders.
De ridderbroeders vormden de kern van de militaire kracht van de orde. Deze, in witte mantels geklede ridders, vormden de zware ruiterij, die in het gevecht even geducht was als de cavalerie van de Tempelridders. Zij voerden de krachtigste wapens en werden, net als hun sterke strijdrossen, beschermd door zware wapenrusting. In de begintijd was iedere tot ridder geslagen man in principe toelaatbaar tot de orde. Vanaf de 15e eeuw was dit voorbehouden aan ridders die uit de adelstand afkomstig waren. De ridders van de Duitse Orde waren in meerderheid wereldlijke ridders, die niet gehouden waren aan het celibaat zoals dat wel gold voor de ordebroeders die monniken waren.
De priesterbroeders hadden het verzorgen van de liturgie en het toedienen van de sacramenten als hoofdtaak. Vanwege hun geletterdheid verleenden zij ook diensten als kroniekschrijvers en schrijvers op de kanselarij. Net als de ridderbroeders waren ook de lekenbroeders (ook: sergeantbroeders) waren gewapende strijders. Zij kwamen voort uit de lagere standen, hadden niet de ridderslag ontvangen en dienden als lichte ruiterij of voetsoldaten. Zij droegen een grijze mantel in plaats van een witte, en waren lichter bewapend dan de ridderbroeders. Anders dan de ridderbroeders, die elk over vier strijdrossen beschikten, hadden deze “vechtende halfbroeders” maar twee paarden tot hun beschikking. Daarnaast kende de orde ook nog “dienende halfbroeders”, die verzorgende en ondersteunden diensten verleenden. Naast militaire taken bleef de Orde zich vooral ook bezig houden met de zorg voor zieken en armen.
Hendrik Walpot werd in 1200 opgevolgd door Otto van Kerpen, die tot ±1208 ordemeester was. Onder zijn leiding besloot de orde Otto IV als rechtmatige opvolger van Hendrik VI te erkennen. Dat kwam overeen met de beslissing van de Kerk, en leidde tot verdere donaties en privileges die aan de orde gedaan werden. De derde Hoogmeester van de Orde was de uit Thüringen afkomstige Hendrik van Tunna, die op 2 juni 1210 in Akko stierf. Tot zijn opvolger werd Herman van Salza gekozen. Dat blijkt uit een in Akko opgestelde akte waarin de Thüringse ridder voor het eerst als hoogmeester wordt vermeld.
Onder leiding van Herman van Salza, die vermoedelijk rond 1204 tot de orde was toegetreden, maakte de Duitse Orde een stormachtige groei door. Voor een belangrijk deel was dit te danken aan het diplomatieke talent van de grootmeester en de vertrouwenspositie die hij verwierf aan het keizerlijke hof. Tientallen jaren lang was Herman van Salza een van de meest invloedrijke mannen rond de keizer. Als bevelhebber van de Duitse Orderidders was hij voor Frederik tijdens zijn kruistocht van grote waarde. Samen met de persoonlijke garde van Saraceense lijfwachten vormden de Duitse kruisridders een strijdmacht waar de keizer onvoorwaardelijk op kon vertrouwen. Dat gold niet voor de beide andere ridderordes. Vooral de Tempeliers waren een onbetrouwbare bondgenoot. Zij keerden zich steeds meer tegen de keizer. Uiteindelijk probeerden zij hem zelfs in handen van de vijand te spelen.
Het krediet dat Herman van Salza opbouwde als Frederiks topdiplomaat en vertrouweling kwam keer op keer tot uiting in schenkingen en privileges die aan de Duitse Orde gedaan werden. Steeds weer profiteerde de orde ook van de erkentelijkheid van andere wereldlijke en geestelijke vorsten, die hun zegel zetten op een eindeloze stroom schenkingsaktes. Ook opeenvolgende pausen en de pauselijke curie waren vrijgevig voor de orde omdat men inschatte dat de nieuwe ridderorde een nieuwe kruistocht dichterbij kon brengen.
De verwantschap die men met de orde voelde maakte dat in de Duitssprekende gebieden in opvallende mate ook door de lagere adel en de burgerij schenkingen werden gedaan.
Door dit alles verwierf de Duitse Orde binnen enkele jaren enorme landerijen, kloosters, kerken, steden en burchten en kreeg zij dezelfde status als de andere ridderordes, die met enige afgunst kennis namen van het snelle succes. Binnen een eeuw telde de Duitse Orde ruim driehonderd ‘provincies’.
De Duitse Orde koloniseerde grote delen van de heidense streken in het oosten en noordoosten waar zij te hulp werden geroepen om de grenzen te verdedigen tegen opdringende vijanden. Dat gebeurde o.a. In Zevenburgen (het huidige Transsylvanië in Roemenië), waar zij door koning Andreas II van Hongarije hielpen bij de verdediging van zijn rijk tegen de invallende horden nomadische Koemanen. Als beloning kreeg de orde grote stukken grond toegewezen en bleef tot 1225 nadrukkelijk aanwezig in deze streken, waarna de pogingen werden opgegeven om in deze oorden een eigen staat te stichten. Vanaf 1230 kreeg de Orde vrijwel vrije hand voor het kerstenen en koloniseren van het onherbergzame Pruisen.
Door inlijving (in 1237) van de in Estland actieve “Orde der Zwaardbroeders” werd het territorium van de Duitse Orde nog verder uitgebreid naar gebieden rond de Oostzee Zee en ontstond zelfs een omvangrijk eigen vorstendom van ±200.000 km².
De activiteiten van de Duitse Orde breidden zich uit van Spanje tot aan Litouwen. Van 1211-1239 ontstonden zeker 63 nieuwe commanderijen: in de Italiaanse kuststeden, maar ook in de Alpen, waar zij van groot belang als onderdak voor reizigers op hun vaak moeizame tocht over de bergen. Zo werd in 1211 de commanderij Lengmoos gesticht op de hellingen van de Brennerpas, die als laagste Alpenpas de belangrijkste passage over het gebergte bood. Pas in 1242, toen Herman van Salza inmiddels als grootmeester was opgevolgd door Gerhard van Mahlberg, werd de verdere opmars van de orde in Rusland gestuit.
De Mongolen waren de enige tegenstander waar zelfs de Duitse Orderidders niet tegen opgewassen waren. In 1239 werden Polen en Hongarije onder de voet gelopen. In 1240 werd Kiew veroverd en stonden de Mongolen aan de grenzen van het Roomse Rijk. In een uiterste poging het tij te keren werden de verzamelde westerse legers, waaronder grote aantallen Duitse Orderidders, in de slag bij Leignitz (9 april 1241) vernietigend verslagen door het leger van Batu Khan, de kleinzoon van Dzengis. Dat de Mongoolse legers ondanks hun overwinning hun opmars niet doorzetten maar naar het oosten wegtrokken, wordt soms in verband gebracht met de dapperheid van de Duitse Orderidders.
Na 1291, toen met de val van Akkon het Heilig Land definitief verloren ging, werd het hoofdkwartier van de Orde verplaatst naar Venetië en in het begin van de 14e eeuw naar het Duitse Malbork (Mariënburg). Door verschillende afscheidingen werd de sterke positie van de Duitse Orde vanaf de 14e eeuw geleidelijk zwakker. Al snel ging eerst de Italiaanse tak verloren; later scheidde zich tijdens de Reformatie ook de Nederlandse afdeling af, die als charitatieve protestantse ridderorde is blijven bestaan. Ook in Duitsland bleef de orde bestaan, hoewel zij na de Slag bij Tannenberg (zomer 1410) allengs meer terrein verloor. Na de Eerste Wereldoorlog werd de Orde een religieuze orde met streng orthodoxe katholieke principes.