Etter at et slaganfall førte til at Alberti mistet førligheten i høyre hånd, ble Kauffmann i 1698 hans vikar på orgelkrakken. Alberti døde i 1710 og Kauffmann ble da hoff- og domorganist i Sachsen-Merseburg. Tilslutt ble han utnevnt til hoffkapellmester og kirkemusikk-direktør.
Høsten 1722 var Kauffmann en av sju søkere til den ledige stillingen som thomaskantor i Leipzig etter Johann Kuhnau. Konkurrenter var blant andre Christoph Graupner og Johann Sebastian Bach. Kauffmann trakk seg til fordel for Graupner, men da tjenesteherren ikke ville gi slipp på Graupner, gikk posten tilslutt til Bach.
Virke
Fra 1733 gav Kauffmann ut abonnementserien Harmonische Seelenlust, dette var den første trykte samlingen orgelkoralforspill siden Samuel ScheidtsTabulatura Nova (1624). Samlingen var ment å inneholde alle Kauffmanns koralbearbeidelser, men han døde av tuberkulose før utgaven var komplett. Enka etter ham fortsatte å gi ut verkene fram til 1736, og dette er sannsynligvis grunnen til at det finnes enkelte stykker av Johann Gottfried Walther og Friedrich Wilhelm Zachow i de siste utgavene.
Totalt finnes det 66 koraler med generalbass og 98 koralforspill. Kauffmann utstyrte mange av orgelverkene med registerangivelser, noe som gir et innblikk i tidens registreringspraksis. Han førte også på tempoangivelser og forslag til forsiring.
Avskrifter av Kauffmanns komposisjoner sirkulerte ut over Merseburg og gjorde ham kjent i vide kretser.
