Su intento de suprimir el privilegio secular de reyes y emperadores de escoger sus obispos y abades le hizo chocar de inmediato con Enrique IV, Emperador de Alemania. La negativa de Enrique de someterse a éste y a otros decretos del Papa enfurecieron tanto a este último, que tuvo la audacia de ordenar al emperador que compareciera ante él en Roma, y, cuando este llamamiento fue rechazado, el encolerizado Gregorio pronunció la excomunión del emperador de la iglesia. Al mismo tiempo, se le declaró despojado de su reino y sus súbditos fueron absueltos de sus juramentos de lealtad. Los supersticiosos temores de la gente, ya suscitados por el interdicto papal, fueron adicionalmente agitados por renovados embates del Vaticano, y estalló la guerra civil. El poder de Gregorio aumentó mientras el de Enrique menguaba, hasta que el desdichado monarca, abandonado por casi todos sus súbditos, rogó humilde el perdón del Papa. Éste trató de manera tan insensible al arrepentido emperador que el resultado fue una acerba venganza. Enrique encontró pocas dificultades para reunir un ejército de simpatizantes que condujo a Roma. Logró entrar en la ciudad, deponer a Gregorio, y poner a otro Papa en su lugar. El encarcelado Gregorio pidió ayuda inmediatamente a Robert Guiscard, un gran guerrero normando. Pronto se reunió un gran y abigarrado ejército, y, a pesar de todos los ruegos del clero y de los laicos para que Gregorio se aviniera a un acuerdo con Enrique, el Papa se mantuvo impávido. Estaba incluso dispuesto a ver la más terrible carnicería en Roma antes que rendir sus exaltadas pretensiones de que el emperador «entregara su corona y diera satisfacción a la iglesia.» Tan pronto como Gregorio fue liberado de su encarcelamiento por el triunfo de Guiscard, entabló de nuevo una lucha contra Enrique, pero su muerte impidió el estallido de aquella tormenta.