Pochodził z Sycylii, był wykształcony, znał grekę i łacinę[1]. Został wybrany papieżem w grudniu 681 roku; musiał jednak czekać osiem miesięcy na aprobatę cesarza bizantyjskiego Konstantyna IV[2]. Ten dopiero po upewnieniu się, że uchwały III Soboru Konstantynopolitańskiego zostaną akceptowane przez papieża, wyraził zgodę na konsekrację Leona II i zachęcał do wysłania apokryzjariusza na dwór cesarski[1].
Leon II zatwierdził autorytetem Św. Piotra postanowienia i uchwały Soboru potępiające monoteletyzm oraz papieża Honoriusza I[1]. Za pontyfikatu Leona II, cesarz Konstantyn IV odwołał dekret Konstantyna II przyznający autonomię Rawennie, uzgodniono, że biskupi raweńscy będą konsekrowani przez papieża[1]. Leon II odrestaurował kościół S. Bibiany na Eskwilinie, do którego przeniósł relikwie męczenników poprzednio pochowanych przy Via Portuense, oraz przekazał w użytkowanie kościół św. Jerzego na Velabrum greckiej wspólnocie w Rzymie[1].
3 lipca 683 Leon II zmarł w Rzymie i został pochowany w bazylice św. Piotra. W 1607 roku na polecenie papieża Pawła V jego szczątki przeniesiono do kaplicy Madonna della Colonna.
