Carl Friedrich Rungenhagen abandonne des études de peinture où il ne fait que peu de progrès et reprend le commerce paternel. Après la mort de son père, survenue en 1796, il se consacre uniquement à la musique.
En 1801, il intègre l'académie de chant de Berlin (Sing-Akademie zu Berlin). En 1815, il est promu au poste de vice-directeur, devenant ainsi un élément essentiel de la vie musicale berlinoise. Il assiste en même temps aux cours de Carl Friedrich Zelter.
À la mort de Zelter, en mai 1832, on recherche un successeur à la tête de l'Académie. Une concurrence oppose alors Rungenhagen au jeune et non moins talentueux Felix Mendelssohn. Mais ni sa légendaire interprétation de la Passion selon saint Matthieu de Johann Sebastian Bach, la première depuis la mort du compositeur, qui remporte à l'Académie un succès fulgurant le , ni le fait que presque toute la famille Mendelssohn avait pendant des années participé à la chorale de l'Académie, ne suffisent à lui assurer le poste convoité : c'est Rungenhagen qui l'emporte en 1833, même si cette décision ne fait pas l'unanimité parmi les membres de l'établissement.
Carl Friedrich Rungenhagen: Nachrichten aus dem Leben und über die Musik-Werke Carl Maria von Weber's, mit dem sehr ähnlichen Bildnisse desselben, Berlin, Trautwein, 1824
Paul Emil Henry: Der Sing-Akademie gewidmet. Worte gesprochen in der Sing-Akademie an dem Sarge des Herrn Direktors Carl Friedrich Rungenhagen. Am 24. December 1851 Morgens von dem Prediger Dr. Henry. Mit einigen Beilagen und der von Schleiermacher am 18. Mai 1832 zum Gedæchtniss Carl Friedrich Zelter's in der Sing-Akademie gehaltenen Rede, Berlin, Decker, 1852
Nachlass C. F. Rungenhagen, Bibliothèque d'État de Berlin, Musikabteilung (Mediennummer BF000101747), 13 Bände (12 Bände eigene Kompositionen im Autograph), 88 Briefe, 2 Varia
Briefwechsel Robert und Clara Schumanns mit Korrespondenten in Berlin 1832 bis 1883, hrsg. von Klaus Martin Kopitz, Eva Katharina Klein und Thomas Synofzik (= Schumann-Briefedition, Serie II, Band 17), Köln: Dohr 2015, S. 551–574, (ISBN978-3-86846-028-5)