Huitfeldt-Kaas høyrde til den danske og norske adelsslekta Huitfeldt. Han var son av fideikommisseigar Valentin Wilhelm Hartvig Huitfeldt. Tilleggsnamnet Kaas tok han, etter adeleg skikk, etter at han i 1881 arva Kaasenlundske Fideikommisset.
Huitfeldt-Kaas vart i 1858 tilsett i Riksarkivet, og han var fleire gonger konstituert som riksarkivar før han i 1896 vart utnemnd til embetet.
Huitfeldt-Kaas var sentral i arbeidet med å gje ut viktige kjelder til norsk historie, blant desse ei rekke band av Diplomatarium Norvegicum. Huitfeldt-Kaas dreiv òg på med genealogi (særleg adelsforsking), personalhistorie, heraldikk og segl. Han byrja på verket Norske Sigiller fra Middelalderen (Oslo, 1899–1950), som vart gjeve ut heftevis.