Giovanni Benelli erhielt seine Ausbildung im Seminar von Pistoia und an zwei Universitäten Roms. Am 12. Juni 1943 wurde er zum Diakon geweiht. Der Bischof von Pistoia, Giuseppe Debernardi, spendete ihm am 31. Oktober desselben Jahres das Sakrament der Priesterweihe für das Bistum Rom. Anschließend wurde er sieben Jahre lang als Gemeindegeistlicher in der Diözese Rom eingesetzt. Nach weiterführenden Studien trat er 1947 in die Dienste des Staatssekretariates, wo er am 1. August desselben Jahres persönlicher Sekretär von Giovanni Battista Montini, dem späteren PapstPaul VI., wurde. 1950 ernannte ihn Papst Pius XII. zum Sekretär der Apostolischen Nuntiatur in Irland. Weitere Stationen seiner Diplomatenlaufbahn führten ihn von 1953 bis 1960 nach Frankreich und von 1960 bis 1962 nach Brasilien. Von 1962 bis 1965 arbeitete er als Berater der Apostolischen Nuntiatur in Spanien, in den Jahren 1965 und 1966 war er ständiger Beobachter des Heiligen Stuhls bei der UNESCO in Paris.
Am 29. Juni 1967 wurde er zum Substituten des Staatssekretariats unter Kardinalstaatssekretär Jean-Marie Villot ernannt.[1] Seine Arbeitskraft und seine Arbeitsweise trugen ihm den Namen „Seine Effizienz“ ein.[2] Unter anderem soll er den Katholizismus in Spanien zu einer allmählichen Abkehr vom System Franco bewegt haben. Christlich-demokratisch geprägt, stand Benelli auch in deutlichem Gegensatz zum französischen Traditionalismus. Innerhalb des kirchenpolitischen Spektrums in Italien galt Benelli als gemäßigt progressiv.