Mailand und fünf weitere Städte hielten durch, und im Oktober 1238 musste er die Belagerung von Brescia erhöhen. Im selben Jahr führte die Heirat von Friedrichs leiblichem Sohn Enzio mit der sardischen Prinzessin Adelasia und die Ernennung von Enzio zum König von Sardinien, in der das Papsttum die Oberhoheit beanspruchte, zum endgültigen Bruch mit dem Papst. Misstraute Friedrich sowohl in religiösen als auch in politischen Angelegenheiten zutiefst: Friedrich sollte scherzte, dass Moses, Christus und Mohammed waren drei Betrüger, die sich hinters Licht geführt worden war, und in der politischen Arena war der Papst befürchtet, dass die Kirchenstaaten waren etwa isoliert und eingekreist werden, vor allem, weil eine pro-imperiale Partei in Rom gebildet worden war. Unter dem Vorwand, der Kaiser wolle ihn aus Rom vertreiben, exkommunizierte Gregor Friedrich am Palmsonntag, dem 20.März 1239, zum zweiten Mal. Dies war der Beginn der letzten Phase des gigantischen Kampfes zwischen dem Papsttum und dem Reich; es endete mit dem Tod des Kaisers und dem Untergang seines Hauses.Friedrich konterte die Exkommunikation mit einer Reihe wichtiger Manifeste, von denen die meisten von Pietro della Vigna, einem Mitglied der kaiserlichen Kanzlei, verfasst wurden, der über herausragende literarische Begabungen verfügte. Das Manifest betonte, dass die Kardinäle an der Führung der Kirche teilnehmen sollten, und Friedrich versuchte sogar, Solidarität unter den weltlichen Fürsten hervorzurufen. Er intensivierte jedoch auch seine militärischen Aktivitäten in Norditalien. Um seinen ständig wachsenden Bedarf an Waffen zu finanzieren, leitete er eine gründliche administrative Umstrukturierung des kaiserlichen Italiens (unter anderem die Bildung von 10 Vize-Regentschaften) und des Königreichs Sizilien ein. Darüber hinaus verfügte er die strenge Überwachung der Bevölkerung. In Mittelitalien ging er in die Offensive und besetzte den Marsch von Ancona und das Herzogtum Spoleto, und im Februar 1240 marschierte seine Armee in den Kirchenstaat ein und bedrohte Rom. Im letzten Moment gewann der Papst jedoch die Unterstützung der Römer.Nach der Niederlage einer genuesischen Flotte, die Delegierte für ein päpstliches Konzil nach Rom brachte, wurden mehr als 100 hochrangige Geistliche – darunter Kardinäle und Bischöfe — als Friedrichs Gefangene nach Apulien gebracht. Dieser militärische Sieg erwies sich jedoch als politischer Nachteil: Er lieferte Propagandamaterial, das Friedrich als Unterdrücker der Kirche darstellte.Noch im Lager vor Rom erhielt Friedrich die Nachricht vom Tod Papst Gregors und zog sich daraufhin nach Sizilien zurück. In der Zwischenzeit waren die Mongolen in Europa eingedrungen. Sie wurden in der äußerst blutigen Schlacht bei Liegnitz in Schlesien am 9. April 1241 vorübergehend gestoppt, aber wahrscheinlich verhinderte nur der plötzliche Tod ihres Anführers, des Großkhan Ögödei, weitere mongolische Vorstöße zu dieser Zeit.Dem kurzen Pontifikat von Celestine IV folgte ein langes Interregnum. Als 1243 Innozenz IV. gewählt wurde, eröffnete Friedrich auf Drängen der deutschen Fürsten und von König Ludwig IX. von Frankreich Verhandlungen mit dem neuen Papst. Vereinbarung zwischen dem Papst und dem Kaiser schien in der Nähe auf die Evakuierung des Kirchenstaates, als im Juni 1244 Innocent floh aus der Stadt. In Lyon berief er einen Rat für 1245 ein und setzte im Juli desselben Jahres den Kaiser ab, wobei das Hindernis für die Versöhnung offenbar der Status der lombardischen Gemeinden war.

Der Kampf zwischen dem Kaiser und dem Papsttum tobte dann in voller Wut. Auf der päpstlichen Seite wurde der Kaiser als Vorläufer des Antichristen gebrandmarkt; Auf der kaiserlichen Seite wurde er als Messias gefeiert. Der Kaiser unterstützte die zeitgenössische Forderung, dass die Kirche zur Armut und Heiligkeit der frühchristlichen Gemeinschaft zurückkehren solle, und appellierte erneut an die Fürsten Europas, sich einem Verteidigungsbund gegen die machthungrigen Prälaten anzuschließen. Die meisten Fürsten blieben jedoch neutral, und obwohl zwei aufeinanderfolgende deutsche Antikings wenig Unterstützung erhielten, verlor der Kaiser in Deutschland stetig an Boden.Im Mai 1247 wurde Friedrichs geplante Reise nach Lyon, um seinen eigenen Fall vor dem päpstlichen Rat zu vertreten, durch den Aufstand der strategisch platzierten Stadt Parma unterbrochen. Nach diesem Debakel ging ein Großteil Mittelitaliens und der Romagna verloren. Im folgenden Jahr erlitt der Kaiser weitere Schicksalsschläge; Pietro della Vigna, langjähriger Vertrauter des Kaisers, wurde des Verrats beschuldigt und beging im Gefängnis Selbstmord. Im Mai 1249 wurde König Enzio von Sardinien, Friedrichs Lieblingssohn, von den Bolognesen gefangen genommen und bis zu seinem Tod 1272 inhaftiert.Die Position des Kaisers, sowohl in Italien als auch — durch die Bemühungen seines Sohnes Konrad IV. — in Deutschland, verbesserte sich, als er 1250 unerwartet starb. Er wurde in der Kathedrale von Palermo in der Nähe seiner ersten Frau, seiner Eltern und seines normannischen Großvaters begraben.

Als die Nachricht von seinem Tod veröffentlicht wurde, war ganz Europa tief erschüttert. Zweifel kamen auf, dass er wirklich tot war; überall tauchten falsche Fredericks auf; In Sizilien wuchs die Legende, dass er zum Vulkan Ätna gebracht worden war; in Deutschland, dass er in einem Berg eingeschlossen war und als Kaiser der Letzten Tage zurückkehren würde, um die weltliche Kirche zu bestrafen und das Heilige Römische Reich friedlich wiederherzustellen. Aber man dachte auch, er würde in seinen Erben weiterleben. Tatsächlich waren sie jedoch innerhalb von 22 Jahren nach seinem Tod alle tot: Opfer des Kampfes mit dem Papsttum, den ihr Vater begonnen hatte.