Er warb mit Unterstützung des regierenden Herzogs Karl II., der dazu am 30. März 1813 (kurz nach An mein Volk) einen Aufruf erlassen hatte, ein Husaren-Regiment an, das Mecklenburg-Strelitzische Husaren-Regiment. Nach dem herzoglichen Monogramm C in seiner Fahne wurde das Regiment auch C-Husaren genannt. Von Warburg führte es zur schlesischen Armee, wo es der Brigade des Herzogs Karl zu Mecklenburg (1785–1837) zugeteilt wurde. Es nahm an vielen Gefechten teil und zeichnete sich insbesondere in der Schlacht an der Katzbach aus.
Mit 51 Jahren heiratete er am 24. Dezember 1817 Auguste, geb. Gräfin Blankensee a. d. H. Filehne (* 10. August 1785; † 27. August 1859)[2], eine Schwester des Komponisten Georg von Blankensee. Der Diplomat Karl August Varnhagen von Ense, der von Warburg in der Zeit des Verlöbnisses begegnete, nannte ihn „die ewige Jugend“.[3]
Das Landgut Hohen Landin hatte er aus Anlass der Hochzeit von seinem Bruder Adolph Friedrich von Warburg erworben. Das Paar hatte zwei Söhne, Wilhelm Georg von Warburg (* 1820), der auf Hohen Landin 1860/1861 Warburg House im Tudorstil erbauen ließ[4] und Moritz Albert von Warburg (* 1823), sowie die beiden Töchter Luise Auguste Friederike Tugendreich von Warburg (* 1818) und Auguste Theres Wilhelmine von Warburg (* 1822).
August Milarch: Denkwürdigkeiten des Meklenburg-Strelitzischen Husaren-Regiments in den Jahren des Befreiungskampfes 1813 bis 1815. Nach dem Tagebuche eines alten Husaren und authentischen Quellen niedergeschrieben. Brünslow, Neubrandenburg 1854; archive.org.
↑Karl-Friedrich Hildebrand/Christian Zweng: Die Ritter des Ordens Pour le Mérite 1740–1918. Biblio, 1998, ISBN 3-7648-2503-0, S. 146, Nr. 1557
↑Gothaisches genealogisches Taschenbuch der gräflichen Häuser auf das Jahr 1860, Jg. 33, Justus Perthes, Gotha 1859, S. 98; Textarchiv – Internet Archive.