Op 28 juni 1228 vertrekt Frederik met 100 Siciliaanse ridders, 40 schepen en flink wat vrachtschepen en 3000 of meer voetsoldaten (plus de gewapende zeelieden) vanuit de haven van Brindisi.
Als Frederik na een verblijf op Cyprus op 7 september 1128 in de haven van Akko aankomt - de eerste keizer die het Heilige Land bereikt - wacht hem een groots welkom van duizenden pelgrims en inwoners. Aan de kade wachten zijn vertrouwde vrienden, die vooruit gestuurd waren: Herman van Salza, Graaf Thomas van Acerra, de keizerlijke stadhouder in Syrië. Ook de Tempeliers en Hospitaalridders wachten Frederik op, en begroeten hem met veel emotie. Zij knielen voor Frederik neer en kussen zijn knie. Weliswaar was Frederik geëxcommuniceerd vanwege het niet doorgaan van de kruistocht in 1227 - maar hij was ook de enige die de kruisvaarders kon redden in de strijd tegen de Ayyubieden. Onuitgesproken veronderstelde men dat de ban zou worden opgeheven nu de Keizer zijn belofte had ingelost.
Frederik slaat zijn kamp op ten zuiden van Akko en hernieuwt de contacten met Al-Kamil. In oktober stuurt sultan Al-Kamil emir Fahd ad-Din als onderhandelaar. Bedoeling is de onderhandelingen te rekken, zodat de weerstand onder zowel christenen als moslims tegen een akkoord zal verminderen. Aan de onderhandelingen, die vijf maanden duurden, lag de stilzwijgende bedoeling ten grondslag geweld te voorkomen en bloedvergieten te vermijden. Een onbegrijpelijke opstelling voor de rechtlijnige, agressieve kruisvaarders.
De Sultan zag Frederik niet als vijand, maar als zijn gelijke, de in Arabische dialectiek geschoolde "liefhebber van de filosofie, de logica en de medicinale wetenschap". Frederiks verbazingwekkende kennis, zijn als tolerantie overkomende bereidheid tot compromissen, en zijn invoelen van de oriëntaalse mentaliteit bezorgden hem de bewondering van de Arabieren. Ook wat het gezantschap betreft, had Frederik het niet beter kunnen treffen. Emir Fahd ad-Din was een hoog ontwikkelde man, met wie Frederik in het Arabisch sprak over logica, filosofie, wiskunde, medicijnen of staatskunst.
Het verdrag met de sultan wordt gesloten op 18 februari 1229. Op die dag brengt emir Fahd ad-Din Eed en Zegel van Malik Al-Kamil. In aanwezigheid van zijn Raden en alle leiders in het keizerlijke kamp – maar in afwezigheid van de patriarch – zet de keizer nu ook zijn zegel op het verdrag. De keizer omhelst Fahd ad-Din, noemt hem zijn vriend en zegt dat hij "…eerder het vlees van zijn linker hand zal eten, dan dat hij het verdrag zal breken."
In het verdrag stond dat de Christenen Jeruzalem en Bethlehem zouden terugkrijgen, met alle dorpen tussen Bethlehem en Jeruzalem en tussen Jeruzalem en Jaffa, waardoor een corridor over Lydda met de havenstad Jaffa ontstond. Ook zouden Nazareth met een landverbinding naar Akko en het westelijk deel van Galilea, met inbegrip van Montfort en de baronie Toron teruggegeven worden, evenals het gehele gebied rondom Sidon. Bovendien stond sultan Al-Kamil de versterking van Jeruzalem, Jaffa, Caesarea en Montfort toe, terwijl hij zelf zou afzien van versterkingen. De wapenstilstand zou bovendien worden gesloten voor de duur van tien maanjaren, tien maanden, tien weken en tien dagen: de langste wapenstilstand die volgens de islamitische wet met niet-moslims mag worden gesloten.
Alleen de Tempelberg, Haram-as-Sjarief, het heilige tempelgebied met de Rotskoepelmoskee (de Omar moskee met zijn groengouden koepel= de tempel van Salomon) en de El-Aksa moskee zouden in mohammedaanse handen blijven, onder beheer van ongewapende moslim leraren. De toegang tot de Tempelberg zou echter door de Christenen gecontroleerd worden, die daarmee ook vrije toegang hadden tot de Rotskoepelmoskee, de heilige plaats waar volgend de Christenen de opdracht van Christus in de Tempel plaatsvond. De heilige plaatsen waren voor het eerst sinds Saladin weer vrij toegankelijk voor de christenen, net zoals Bethlehem voor de moslims. De Christenen kregen hiermee controle over de drie belangrijkste godsdienstige heiligdommen: de plaatsen van de Annunciatie (de Boodschapping), de Geboorte en de Kruisdood.
De toegeeflijkheid van de Sultan Al-Kamil was ongehoord. Het terreinverlies en vooral het verlies van de Heilige Stad, wat gezien werd als de grootste slag voor de Islam, veroorzaakte een golf van verontwaardiging onder de mohammedanen. Het verhaal gaat dat de imams en muezzins van Jeruzalem klagend voor de tent van de sultan kwamen staan en de mohammedanen opriepen tot treurgebeden. In Damascus werd openbare rouw afgekondigd en de Kalief in Bagdad protesteerde. Sultan Al-Kamil verontschuldigde zich bij zijn geloofsgenoten dat hij “alleen maar oude kerken en kapotte huizen” had teruggegeven – maar dat was geen troost voor de moslims. Al-Kamil kon niet meer ongehinderd door de straten van Nabloes gaan: hij werd beschimpt door zijn eigen onderdanen.
In het christelijke kamp wordt het verdrag evenmin met gejuich ontvangen - ook omdat Frederik patriarch Gerold van Jeruzalem niet heeft betrokken of geraadpleegd bij de onderhandelingen. Dat hij dit fantastische onderhandelingsresultaat in feite alleen voor elkaar heeft gekregen door te onderhandelen en dat er nauwelijks een zwaard was getrokken, zet veel kwaad bloed in christelijke kringen.
Op zaterdag 17 maart trekt Frederik, als eerste vorst na Godfried van Bouillon, de verlaten straten van Jeruzalem binnen, gevolgd door veel pelgrims. De pelgrims doen geen moeite het gezelschap van de geëxcommuniceerde keizer te vermijden. Voor hen is het doel van de kruistocht bereikt: toegang tot de grafkerk en de andere heilige plaatsen.
Frederik krijgt de sleutels van de stad overhandigd door de kadi van Nabloes, Sjams ad-Din ("zon van het geloof"), in wiens huis hij verblijft. De kadi heeft van de sultan de opdracht gekregen de wensen van de lippen van de keizer af te lezen. Dat is niet moeilijk, omdat Frederik vloeiend Arabisch spreekt.
Frederik bezoekt de al-Aksamoskee, waar hij zijn schoenen uittrekt en zich de voeten wast. Voor zijn komst had de sultan de kadi opgedragen de muezzins voor de duur van het verblijf van de keizer te verbieden vanaf de minaret op te roepen tot het gebed. Zij hielden zich aan die opdracht, maar op de ochtend na zijn eerste nacht in Jeruzalem vroeg de keizer waarom hij de muezzin niet gehoord had. Toen hij de reden vernam, gaf hij opdracht dat de muezzin weer moest oproepen tot het gebied. Hij wilde niet dat de Saracenen van hun godsdienstige gebruiken zouden afzien alleen omdat hij een paar dagen in Jeruzalem was. Zij hoefden hun gebruiken, en hun religie voor hem niet te veranderen. Zelfs als zij in zijn land te gast zouden zijn, zouden ze dat niet hoeven. Een tolerantie, die ook Saladin getoond had.
De volgende dag, zondag 18 maart, kroont Frederik zichzelf in de Grafkerk. Met moeite laat hij zich overtuigen af te zien van een mis en een kerkelijke kroningsceremonie. Zich als geëxcommuniceerde in een traditioneel kerkelijk ritueel door een van de aanwezige bisschoppen tot koning laten kronen, zou een onherstelbare fout zijn. De kans op verzoening met de paus en opheffing van de ban zou daarmee voorgoed verkeken zijn. Het wordt daarom een kroning zonder kerkelijk ritueel. Na het einde van de mis die aan de kroning vooraf gaat, schrijdt Frederik met zijn gevolg het zuidelijk van de kerk gelegen plein over en betreedt de Grafkerk. Bij het licht van duizend kaarsen, treedt hij binnen in zijn wijde, roodzijden mantel, tussen de witte mantels door van de ridders van de Duitse Orde, neemt de keizerskroon van het altaar, heft hem op ten aanschouwen van de aanwezigen, zet zichzelf de kroon op het hoofd en loopt naar zijn zetel. Zonder kerkelijke bemiddelaar, zonder bisschop, zonder koningsdienst. Op de heiligste plaats van het christendom benadrukt hij zo zijn alleen aan God ondergeschikte Koningschap.
De gebeurtenis was veel minder dramatisch dan zijn tegenstanders wilden doen geloven. De keizer deed niet meer of minder dan de ceremoniële kroondracht, wat gewoonlijk plaatsvond op de grote Christelijke feestdagen: Kerstmis, Pasen, Pinksteren, maar ook wel bij gelegenheden van groot politiek belang.
Het opzetten van de kroon voegde op zich niets toe aan Frederiks status als Koning van Jeruzalem, die hij had gekregen bij het huwelijk met Isabella. Bovendien droeg hij zijn keizerskroon als teken van universeel leiderschap; dit was de kroon van Duitsland en Lombardije die Frederik sinds Mainz en Aken (1215) als de zijne kon beschouwen. Een beter symbool dan deze kroon om de gelofte te bezegelen die hij veertien jaar geleden had afgelegd.
De volgende dag verlaat Frederik Jeruzalem alweer om zo snel mogelijk vanuit Akko terug te keren naar Sicilië. Hij heeft geen tijd te verliezen: er zijn alarmerende berichten zijn officieren in Sicilië. Tijdens afwezigheid van de keizer zijn pauselijke troepen ("sleutelsoldaten") de Regno binnengevallen. Paus Gregorius IX lokt overal opstanden uit in keizerlijke steden en laat Franciscaner monniken vanaf de preekstoel het gerucht verspreiden dat Frederik in het Heilig Land gesneuveld zou zijn.
Vanwege slecht weer werd de afvaart vanuit Akko vertraagd tot 1 mei 1229 . Als Frederik op de vroege ochtend van vertrek via de slagerssteeg naar de haven rijdt, worden hij en zijn gevolg met ingewanden van dieren, afval en smeer bekogeld door het opgehitste gepeupel.
Een andere, meer romantische versie zegt dat de Oosterse vrouwen zoveel verdriet hadden over Frederiks vertrek dat zij zwarte gewaden droegen. Dit zou het begin zijn geweest van de gewoonte van oosterse vrouwen om zwarte kleding te dragen.