Foi um grande senhor do noroeste da França: foi conde de Vermandois, conde de Soissons e conde de Meaux, sucedendo a seu pai, após a morte deste. Juntamente com o pai ele também se envolveu na disputa pelo trono francês (entre Eudes e Carlos III). Acontece que Heriberto II era irmão de Beatriz de Vermandois (que viria a ser rainha da França), casada (como segunda esposa) com Roberto de França, irmão de Eudes (Roberto mais tarde se tornaria rei da França). Alinhando-se com a família de sua irmã, Heriberto II chegou a manter o legítimo rei da França, Carlos III dito “o Simples”, em cativeiro durante seis anos (de 923 até ele falecer em 929).
Heriberto II casou-se com a única filha do primeiro casamento de seu cunhado Roberto, futuro rei Roberto I de França.