Também citado como Balduíno de Bourcq, foi o segundo conde de Edessa (1100-1118) e rei de Jerusalém (1118-1131).
Ele seguiu para a Terra Santa, na primeira cruzada, junto com dois primos, Godofredo de Bulhão (que veio a ser o primeiro soberano do Reino Latino de Jerusalém, mas recusava o título de rei) e seu irmão mais novo Balduíno de Bolonha (que foi o primeiro conde de Edessa).
Com a morte de Godofredo, Balduíno de Bolonha sucedeu o irmão, sendo coroado o primeiro rei de Jerusalém em 1110, como Balduíno I de Jerusalém. Ao assumir o Reino Latino, deixou Edessa para o primo Balduíno de Bourcq, que foi o segundo conde de Edessa.
Quando Balduíno de Bolonha – agora rei Balduíno I de Jerusalém – morreu em 1118, deixou a coroa para seu irmão mais velho, Eustácio III de Bolonha, estipulando que esta seria oferecida ao primo Balduíno de Bourcq (agora Balduíno de Edessa) se Eustácio não viesse à Terra Santa. O cruzado Juscelino II de Courtenay insistiu que o reino passasse para Balduíno de Edessa. Este foi mesmo coroado no domingo de Páscoa desse ano, como Balduíno II de Jerusalém, e deu Edessa para Juscelino (que também era seu primo).
Quase imediatamente, o Reino Latino de Jerusalém foi invadido simultaneamente pelos seljúcidas da Síria e pelo Califado Fatímida do Egito. Mas o novo rei deu mostras de força e decisão, e os exércitos muçulmanos abandonaram o território sem se travar qualquer batalha.
Em 1119, foi a vez do Principado de Antioquia ser invadido, e Balduíno acorreu prontamente com seu exército. Mas o regente do principado, Rogério de Salerno (marido de uma irmã de Balduíno, portanto seu cunhado), não aguentou até a chegada dos aliados, e seu contingente acabou por ser aniquilado na chamada Batalha do Campo de Sangue. Apesar de esta ter sido uma catástrofe para o principado cruzado, Balduíno assumiu a regência, ajudou Antioquia a recuperar-se e a expulsar os turcos ainda no mesmo ano.
Um cronista das cruzadas descreveu Balduíno II como “um homem devoto e temente a Deus, notável por sua lealdade e grande experiência em assuntos militares”.
Em 1122, Juscelino II de Courtenay (que havia sido nomeado conde de Edessa quando Balduíno II subiu ao trono em Jerusalém), foi aprisionado em batalha. O rei assumiu a regência de mais este estado cruzado, porém também acabou por ser aprisionado em 1123 pelos turcos, enquanto patrulhava as fronteiras de Edessa, e acompanhou Juscelino em seu cativeiro. Dois outros regentes assumiram Jerusalém.
Balduíno e Juscelino escaparam da prisão em 1124, com a ajuda dos armênios. Em 1125, Balduíno reuniu cavaleiros de todos os estados cruzados e enfrentou os seljúcidas na Batalha de Azaz. Apesar de os inimigos serem mais numerosos, os cruzados venceram e reafirmaram muita da influência que tinham perdido desde o Campo de Sangue.
Se os principados de Antioquia e Edessa não tivessem entrado em conflito, um contra o outro, depois dessa batalha, talvez Balduíno tivesse conseguido atacar Alepo, mas, pouco tempo depois, em 1128, essa cidade e Mossul se uniram. Incapacitado de atacar qualquer dessas cidades, Balduíno tentou tomar Damasco em 1129, com a ajuda dos Templários, mas falhou.
Outro cronista, de Damasco, do século XII, que o chamava de “Balduíno, o Pequeno”, para distingui-lo de Balduíno I, observou que “depois dele não havia ninguém entre eles que possuísse bom julgamento e capacidade de governar”.
Balduíno II não teve filho varão. Nomeou como herdeira sua filha mais velha, Melisende, que o sucedeu, reinando junto com o marido.