Milan et cinq autres villes ont tenu, et en octobre 1238, il a dû lever le siège de Brescia. La même année, le mariage du fils naturel de Frédéric, Enzio, avec la princesse sarde Adelasia et la désignation d’Enzio comme roi de Sardaigne, dans laquelle la papauté revendiquait la suzeraineté, conduisirent à la rupture définitive avec le pape. Grégoire IX se méfiait profondément de Frédéric à la fois en matière religieuse et politique: Frédéric était censé avoir plaisanté en disant que Moïse, Christ et Mahomet étaient trois imposteurs qui avaient eux-mêmes été trompés, et dans l’arène politique, le pape craignait que les États pontificaux soient sur le point d’être isolés et encerclés, en particulier parce qu’un parti pro-impérial avait été formé à Rome. Sous prétexte que l’empereur avait l’intention de le chasser de Rome, Grégoire excommunia Frédéric pour la deuxième fois le dimanche des Rameaux, le 20 mars 1239. Ce fut le début de la dernière phase de la lutte gigantesque entre la papauté et l’empire; cela s’est terminé par la mort de l’empereur et la chute de sa maison.

Frédéric a contré l’excommunication avec un certain nombre de manifestes importants, la plupart d’entre eux composés par Pietro della Vigna, membre de la chancellerie impériale, qui avait des dons littéraires exceptionnels. Le manifeste soulignait que les cardinaux étaient censés participer à la direction de l’Église, et Frédéric essayait même d’évoquer la solidarité entre les princes séculiers. Cependant, il intensifia également ses activités militaires dans le nord de l’Italie. Afin de financer son besoin croissant d’armes, il institua une réorganisation administrative en profondeur de l’Italie impériale (entre autres, la formation de 10 vice-régences) et du royaume de Sicile. En outre, il a décrété la surveillance rigoureuse de la population. En Italie centrale, il prit l’offensive, occupant la Marche d’Ancône et le duché de Spolète, et en février 1240, son armée marcha dans les États pontificaux et menaça Rome. Au dernier moment, cependant, le pape a gagné le soutien des Romains.

Après la défaite d’une flotte génoise amenant des délégués pour un conseil pontifical à Rome, plus de 100 ecclésiastiques de haut rang – cardinaux et évêques parmi eux — ont été emmenés comme prisonniers de Frédéric dans les Pouilles. Cette victoire militaire se révéla cependant être un désavantage politique: elle fournissait du matériel pour la propagande dépeignant Frédéric comme un oppresseur de l’Église.

Alors qu’il campait encore devant Rome, Frédéric reçut la nouvelle de la mort du pape Grégoire et se retira ensuite en Sicile. Entre-temps, les Mongols avaient envahi l’Europe. Ils ont été temporairement arrêtés lors de la bataille extrêmement sanglante de Liegnitz en Silésie le 9 avril 1241, mais probablement seule la mort subite de leur chef, le grand khan Ögödei, a empêché de nouvelles avancées mongoles à cette époque.

Le bref pontificat de Célestin IV fut suivi d’un long interrègne. Lorsqu’en 1243 Innocent IV est élu, Frédéric, sous l’impulsion des princes allemands et du roi Louis IX de France, ouvre des négociations avec le nouveau pape. Un accord entre le pape et l’empereur semblait proche sur l’évacuation des États pontificaux, lorsqu’en juin 1244, Innocent s’enfuit de la ville. À Lyon, il convoqua un concile pour 1245 et, en juillet de la même année, déposa l’empereur, l’obstacle à la réconciliation étant apparemment le statut des communes lombardes.

La bataille entre l’empereur et la papauté fait alors rage en pleine fureur. Du côté papal, l’empereur était considéré comme le précurseur de l’antéchrist; du côté impérial, il était salué comme un messie. L’empereur a soutenu la demande contemporaine que l’Église revienne à la pauvreté et à la sainteté de la communauté chrétienne primitive et a de nouveau appelé les princes d’Europe à se joindre à une ligue défensive contre les prélats assoiffés de pouvoir. La plupart des princes, cependant, sont restés neutres et, bien que deux antikings allemands successifs aient reçu peu de soutien, l’empereur a régulièrement perdu du terrain en Allemagne.

En mai 1247, le voyage prévu de Frédéric à Lyon pour plaider sa propre cause devant le conseil pontifical est interrompu par la révolte de la ville de Parme, stratégiquement placée. À la suite de cette débâcle, une grande partie de l’Italie centrale et de la Romagne a été perdue. L’année suivante, l’empereur devait subir de nouveaux coups du sort; Pietro della Vigna, pendant de nombreuses années le confident de l’empereur, fut accusé de trahison et se suicida en prison. En mai 1249, le roi Enzio de Sardaigne, fils préféré de Frédéric, fut capturé par les Bolognais et fut incarcéré jusqu’à sa mort en 1272.

La position de l’empereur, à la fois en Italie et — grâce aux efforts de son fils Conrad IV — en Allemagne, s’améliora lorsqu’il mourut inopinément en 1250. Il a été enterré dans la cathédrale de Palerme près de sa première femme, de ses parents et de son grand-père normand.

Lorsque la nouvelle de sa mort a été publiée, toute l’Europe a été profondément ébranlée. Des doutes ont surgi sur le fait qu’il était vraiment mort; de faux Fredericks sont apparus partout; en Sicile, une légende a grandi selon laquelle il avait été transporté sur le volcan Aetna; en Allemagne, il était encapsulé dans une montagne et reviendrait en tant qu’empereur des derniers jours pour punir l’Église mondaine et rétablir pacifiquement le Saint Empire romain Germanique. Pourtant, on pensait aussi qu’il vivait dans ses héritiers. En fait, cependant, dans les 22 ans qui ont suivi sa mort, tous étaient morts: victimes de la bataille avec la papauté que leur père avait commencée.