Tornato a Tortona ebbe numerosi incarichi: fu professore di filosofia e teologia in seminario, di cui fu anche vicerettore, fu esaminatore prosinodale e amministratore dell'ospedale. Papa Leone XIII lo nominò professore di storia ecclesiastica alla Pontificia Università Urbaniana, ma Carlo Perosi rifiutò per non allontanarsi dalla sua diocesi.
La tomba nel Duomo di Tortona a fianco di quella del fratello Lorenzo.
Papa Pio XI lo elevò al rango di cardinale nel concistoro del 21 giugno 1926 e il 24 giugno dello stesso anno ricevette la diaconia di Sant'Eustachio. Il 10 febbraio 1928 fu nominato pro-segretario della Congregazione Concistoriale, di cui divenne segretario il 1º novembre dello stesso anno.
Morì a Roma il 22 febbraio 1930 all'età di 61 anni. Fu sepolto inizialmente nel cimitero del Verano, ma nel 1959 le spoglie furono traslate nel Duomo di Tortona, dove giace accanto al fratello Lorenzo.