Početkom 1970. vođenje zbora preuzima skladatelj, glazbeni pedagog i violončelistRudolf Matz. Samo nekoliko mjeseci od početka rada Matz za zbor piše skladbu Carmen Medicorum. U siječnju 1971. godine probe se nastavljaju redovito održavati u prostorijama Hrvatskog liječničkog doma u Zagrebu. U svibnju 1971. godine osniva se Glazbena sekcija Zbora liječnika, a zbor poprima današnji naziv Zagrebački liječnici pjevači. Za prvog predsjednika i zbora i sekcije imenovan je Zergollern. Upravo njegovom trudu i upornosti treba zahvaliti sto se pjevački zbor održao u godinama koje su slijedile. Prvi javni nastup Zagrebački liječnici pjevači održali su 3. lipnja1971. u auli Hrvatske akademije znanosti i umjetnosti u Zagrebu. Zbor je prvi put izvan Zagreba nastupio 6. listopada1971. na kongresu u Bledu u Sloveniji. Tom je prigodom Matzova skladba Carmen Medicorum proglašena himnom hrvatskih lijčnika.
1974. godine, nakon niza uspješnih nastupa, Matz mjesto voditelja zbora prepušta tada studentu medicine, a kasnije kardiologu, Miji Bergovcu. Šireći repertoar hrvatskim i svjetskim klasicima zborske glazbe, umjetničkim obradama narodnih pjesama, a posebno djelima liječnika skladatelja, Bergovec je zbor uspješno vodio čak 24 godine. 1984. na mjestu predsjednika zbora i sekcije Josipa Zergollerna zamjenjuje psihijatarMilan Ferković. U vrijeme Domovinskog rata zbor održava niz nastupa za pomoć ranjenicima te djeci poginulih i nestalih. Od 2008. godine do danas zborom ravna Leonard Bergovec. U repertoar su posljednjih godina uvrštene i skladbe zabavnog karaktera (evergreeni) domaćih i stranih autora, kao i crnačke duhovne pjesme.