Deretter kom han tilbake til Vatikanet, og fikk den meget sentrale stilling som sostituto i Statssekretariatet, som gjorde ham til en nøkkelperson mht. koordineringen av hele Den romerske kuries arbeide.[trenger referanse]
I 1977 ble han utnevnt til erkebiskop av Firenze. Spekulasjonene den gang gikk ut på at pave Paul VIenten ville fjerne ham fra Roma fordi han hadde gjort seg mektig upopulær i andre deler av byråkratiet, som ikke likte hans lederstil og reformtiltak, eller at han ble sendt til et større erkebispedømme for å få en genuin erfaring som overhyrde for sjelesorg, slik at han skulle bli mest mulig "papabile" ved neste pavevalg.[trenger referanse]