Approfittando della sua assenza e di quella di molte delle sue truppe migliori che lo avevano seguito in Terrasanta, il Papa lanciò la Crociata contro Federico. Tuttavia l’appello che lanciò a tutti i principi cristiani rimase sostanzialmente inascoltato, nessuno infatti approvava il vile tradimento teso all’imperatore durante la sua permanenza in oriente per portare a termine la Crociata, attuata in nome della Chiesa e di tutta la cristianità, avendola organizzata inoltre solo con le sue truppe e le sue forze.

La situazione in effetti era alquanto assurda e paradossale: l’Imperatore del Sacro Romano Impero, il primo alfiere della cristianità e difensore designato della Curia romana, aveva intrapreso la crociata da scomunicato, nonostante l’ultimo rinvio (per colpa dell’epidemia) non fosse imputabile alle sue solite manovre politiche e diplomatiche volte ad affrancarsi dall’influenza papale, e da scomunicato era arrivato in terra santa, riuscendo addirittura a liberare Gerusalemme e stabilire una tregua stabile con i musulmani di Palestina, garantendo la sicurezza dei pellegrini verso i luoghi santi. Nel mentre di questi avvenimenti, il Papa in persona lanciava una contro-crociata nel cuore del regno dell’imperatore, una situazione inaccettabile per tutti e mai più successa nella storia europea. Solo i comuni lombardi, acerrimi nemici di tutti gli imperatori di casa Hoenstaufen, aderirono con entusiasmo alla chiamata alle armi, unendosi alle truppe papali e a quelle mercenarie assoldate dal pontefice per l’impresa.

A capo della contro-crociata fu posto l’ex re di Gerusalemme Giovanni di Brienne, altro nemico mortale, nonché suocero, dell’Imperatore, ben contento di vendicarsi del genero. Infatti dopo che Federico sposò sua figlia Isabella II, l’imperatore lo trattò in malo modo, obbligandolo a rinunciare subito al suo titolo ed esautorandolo di tutti i poteri.

I crociati presero il nome di Clavisegnati, perché a differenza dei loro “colleghi” che combattevano in terrasanta, sui propri scudi e armature non si segnarono con la croce, ma con le chiavi pontificie, simbolo dello Stato della Chiesa.

L’Imperatore ordinò di non inseguire i clavisegnati in rotta all’interno dello Stato della Chiesa, questo per riuscire nell’intento di riconciliarsi col Papa e far annullare la scomunica, atto necessario per Federico.

Le trattative cominciarono subito e andarono avanti per 8 mesi, tramite la mediazione del Gran Maestro dei Cavalieri Teutonici Ermanno di Salza, diplomatico e braccio destro di Federico in tutte le questioni delicate. Fu grazie a lui, dopo una battuta d’arresto nelle trattative nella primavera 1230, che si decise di rendere tutti i principi e vescovi tedeschi garanti della parola dell’Imperatore di non rompere più la pace, così che si arrivò all’accordo e all’incontro tra Federico e Gregorio ad Anagni, dove venne stipulato il Trattato di San Germano.

Il rapporto con il papato, però, non migliorò granché: il papa era deluso dalla vittoria effimera e in balìa dei musulmani di una Gerusalemme smilitarizzata, senza mura e indifendibile, inoltre il papa non vedeva di buon occhio la soluzione diplomatica, che non era nei piani; anche l’incoronazione da scomunicato non fu gradita. Ma la ragione forse più importante era il risentimento del papa per il nuovo successo di quell’imperatore ormai molto scomodo in quella crociata che originariamente doveva, nelle intenzioni papali, metterlo in difficoltà, magari farlo sparire dalla scena come era accaduto al nonno di Federico, il Barbarossa.