Black cresceu rodeado por música: o seu pai tocava ocasionalmete guitarra acústica e fazia parte de um coro, o violinista Arve Tellefsen vivia perto de sua casa e Black abria a janela e ficava a ouvi-lo tocar. Durante as férias ia para a quinta do seu avô e ficava a ouvir as rádios do Luxemburgo durante as noites.
Aos 10 anos juntou-se a uma banda da escola como baterista, mas como os vizinhos se queixavam do barulho, Black fez um acordo com o seu pai: se ele deixasse de tocar bateria, ele ensinava-lhe a tocar guitarra. Black passava o tempo a fazer desporto (andebol e futebol) e a tocar.
Quando tinha 14 anos, alguns vizinhos montaram uma banda e precisaram de um baixista. Apesar de não ter um baixo, Black juntou-se á banda.
Em 1977, Black juntou-se a uma banda de covers chamada Panic. Aos 17 anos deu o seu primeiro concerto.