Il est né en 1962 à Aden, alors capitale de la Fédération d'Arabie du Sud (futur Yémen du Sud) d'un père missionnaire luthérien et d'une mère institutrice. Ses parents quittent le pays cette même année en raison de la guerre civile qui éclate au Yémen du Nord et rentrent au Danemark, dans le Jutland du Nord[1].
Il commence son parcours professionnel au ministère des Affaires étrangères du Danemark en 1992 et de 1995 à 2003, il progresse au sein de la représentation danoise au sein de l'Union européenne et en devient représentant permanent adjoint auprès de l'UE avec un titre d'ambassadeur. En 2007, il devient ambassadeur auprès de la République populaire de Chine et en 2010, il est nommé représentant permanent auprès de l'UE, poste qu'il va occuper jusqu'à son accession au poste de secrétaire général du Conseil de l’Union Européenne en 2015[2]. Le , le Conseil le nomme au poste de secrétaire général du Conseil pour la période allant du au . Cela fait suite à un accord intervenu lors de la réunion du Conseil européen du [2]. Le , il est nommé pour un second mandat jusqu'au .
Surnommé le « dictionnaire de l'UE », il est un europhile convaincu, travaille beaucoup, et a une très grande connaissance des sujets liés à l'UE ; c'est également un bon diplomate, qui sait mener les négociations dans lesquelles son pays et l'UE sont impliqués[1]. Il choisit le poste de secrétaire général du Conseil plutôt que celui d'ambassadeur du Danemark auprès des États-Unis[3].