Καταγόταν από αριστοκρατική ρωμαϊκή οικογένεια. Ο πατέρας του, Ιωάννης, φαίνεται να ήταν εφημέριος σε μία από τις δύο πολιτικές "επισκοπές" ή περιφέρειες στις οποίες ήταν τότε χωρισμένη η Ιταλία[1]. Ο Πελάγιος συνόδευσε τον Πάπα Αγαπητό Α΄ στην Κωνσταντινούπολη, ο οποίος τον διόρισε νούντσιο της Ρωμαϊκής Εκκλησίας σε αυτήν την πόλη.[1]
Όταν ο Πάπας Βιγίλιος πήγε στην Κωνσταντινούπολη με διαταγή του αυτοκράτορα Ιουστινιανό Α', ο Πελάγιος έμεινε στη Ρώμη σαν αντιπρόσωπός του. Ο βασιλιάς των Γότθων, Τωτίλας, είχε ήδη αρχίσει να πολιορκεί την πόλη. Ο Πελάγιος μοίρασε την ίδια του την περιουσία για να ανακουφίσει τον λαό που υπέφερε από τον λιμό, και προσπάθησε να πείσει τον βασιλιά να κάνει εκεχειρία. Αν και απέτυχε, αργότερα έπεισε τον Τοτίλα να χαρίσει τις ζωές στους αιχμαλώτους που συνέλαβε όταν μπήκε στην πόλη τον Δεκέμβριο του 546. Ο Τοτίλας έστειλε τον Πελάγιο στην Κωνσταντινούπολη για να διαπραγματευτεί ειρήνη με τον Ιουστινιανό, αλλά ο αυτοκράτορας τον έστειλε πίσω λέγοντας ότι ο στρατηγός του Βελισάριος είχε την εξουσία στην Ιταλία.
Ο Πελάγιος εκλέχτηκε Πάπας σαν υποψήφιος υποστηριζόμενος από τον Ιουστινιανό. Ενώ πριν την εκλογή του στάθηκε ενάντια στην προσπάθεια του Ιουστινιανού να καταδικάσει τα «Τρία Κεφάλαια» για να συμβιβάσει τις διάφορες παρατάξεις μέσα στην εκκλησία, αργότερα υιοθέτησε τη θέση του αυτοκράτορα. Αυτό κατέστρεψε τη φήμη του στη Βόρεια Ιταλία, τη Γαλατία και ολόκληρη τη Δυτική Ευρώπη, με αποτέλεσμα οι διάδοχοι του για τα επόμενα 50 χρόνια αφιέρωσαν πολύ κόπο για να αποκαταστήσουν τη ζημιά.
