Toiviainen valmistui teologian kandidaatiksi 1955, ja hänet vihittiin papiksi samana vuonna. Teologian lisensiaatin tutkinnon hän suoritti 1965, ja tohtoriksi hän väitteli 1968. Hän työskenteli muun muassa seurakuntapappina, oppikoulun uskonnonopettajana ja Jyväskylän kasvatusopillisen korkeakoulun virkaa tekevänä uskonnon lehtorina[2].
Toiviainen toimi vasta perustetun Kirkon koulutuskeskuksen ensimmäisenä johtajana 1970–1974. Helsingin yliopistossa hän toimi sosiaalietiikan apulaisprofessorina 1974–1976 ja ekumeniikan professorina 1976–1978. Professorivuosinaan hän toimi myös raamatunkäännöskomitean jäsenenä. Hän osallistui myös oppikeskusteluihin Venäjän ortodoksisen kirkon kanssa vuosina 1971–1992. Tasavallan presidentti Urho Kekkonen nimitti Toiviaisen Mikkelin hiippakunnan piispaksi 30. joulukuuta 1977, ja hän aloitti virassa 1. helmikuuta 1978[2]. Hän jäi eläkkeelle vuonna 1993. Eläkepäivinään Toiviainen jatkoi kirjoitustyötä ja vietti paljon aikaa Espanjassa.[3]
Toiviaisen pääasiallisin teologisen kiinnostuksen kohde oli ekklesiologia eli kirkko-oppi, johon liittyvät näkökulmat (esimerkiksi kirkon virka, maallikkojen asema ja ekumenia) olivat keskeisiä hänen hiippakunnalle osoittamissaan paimenkirjeissä.
