Foi Imperador Romano-Germânico de 1084 até sua abdicação forçada, no fim de 1105, além de Rei da Itália, Rei dos Romanos e Duque da Baviera.
Seu pai, para garantir a sucessão, fez o pequeno Henrique ser coroado Rei da Germânia aos 3 anos de idade. Assim, quando o pai morreu repentinamente, a ascensão do filho de 6 anos não teve oposição, ficando sua mãe, a imperatriz Inês, como regente.
O casamento de Henrique e Berta de Saboia foi arranjado quando ambos eram crianças, como era o costume na época. Eles se casaram em 1066, porém enquanto Berta parece ter amado o seu marido desde o início, Henrique parece ter-lhe ganho aversão. Apesar de ela ser uma jovem bonita, eram constantes as infidelidades do imperador.
Em 1069, Henrique começou os procedimentos para o divórcio fornecendo, para a época, uma razão extraordinariamente honesta: as suas próprias infidelidades. Entretanto, o pedido foi rejeitado pelas autoridades da Igreja. O imperador estava aparentemente submetido ao seu destino. Um ano depois nascia a primeira filha de Henrique e Berta.
O reinado de Henrique IV foi marcado pelo conflito conhecido como a Controvérsia das Investiduras. Como consequência, o imperador foi excomungado pelo papa em 1076.
No início de 1077, durante uma viagem, o papa hospedou-se no castelo de Canossa, que pertencia à condessa Matilda da Toscana. O imperador foi ao encontro do papa para pedir que este levantasse sua excomunhão. Henrique ficou três dias, de 25 a 27 de janeiro de 1077, fora das portas de Canossa, na neve, suplicando ao papa para anular a sentença. O papa levantou a excomunhão, debaixo de certas condições, mas que Henrique rapidamente violou.
Por conta deste episódio, até hoje existe a expressão “Ir a Canossa”, que significa "humilhar-se perante um inimigo" ou "pedir perdão de maneira suplicante".
Após enviuvar, Henrique casou-se segunda vez, porém sem descendência desse segundo casamento.
Nos últimos anos de sua vida, Henrique IV enfrentou rebeliões por parte de seu filho mais velho e de sua nova esposa. Por fim, ele abdicou em 1105 e faleceu no ano seguinte.