Comezou a demostrar o seu talento musical moi cedo. Aos 8 anos xa tocaba o contrabaixo en festivais locais. En 1708, ao morrer o seu pai, ferreiro de profesión, foise vivir a casa do seu tío Justus Quantz, membro da orquestra da cidade de Merseburg, co que comezou os seus estudos musicais. Trala morte do seu tío, o xenro deste, Johann Adolf Fleischhack tomou a Quantz como alumno. Ao rematar os seus estudos sabía tocar os principais instrumentos de corda e todos os de vento usuais, a excepción da frauta travesa.
En 1728 converteuse en frautista da capela de Dresde. Alí, durante un concerto coñeceu o príncipe Frederico de Prusia, máis tarde chamado Frederico o Grande, quen o tomou como mestre particular de frauta.
Cando o príncipe chegou a ser proclamado rei, Quantz pasou ás ordes directas do novo monarca e impartiulle clases diarias de frauta e composición. Mesmo lle acompañaba nas súas campañas militares. Quantz permaneceu como compositor da corte e músico de cámara de Frederico o resto da súa vida, interpretando as súas propias composicións, así como as do rei. Só el tiña o privilexio de criticar o rei, en sentido positivo ou negativo.
Foi un compositor moi prolífico e un excepcional frautista. A súa obra comprende máis de 200 sonatas, 300 concertos, para unha ou dúas frautas, música de cámara e algunhas arias. O seu estilo é barroco, influenciado polo estilo italiano, especialmente de Antonio Vivaldi, aínda que as súas últimas creacións inclínanse cara ao clasicismo.
Tamén publicou varios tratados moi completos sobre a interpretación da frauta no final do Barroco, e en particular o seu Versuch einer Anweisung die Flöte traversiere zu spielen (1752), referencia fundamental para coñecer a interpretación musical (e non só a frautística) a mediados do século XVIII. Paralelamente construíu frautas e proporcionou melloras técnicas e sonoras ao instrumento. Johann Sebastian Bach e Georg Philipp Telemann coñeceron estes instrumentos e adaptaron algunhas das súas composicións ás súas novas posibilidades técnicas.
