Karl war ein Sohn des Erbherrn auf Krackow und Oberstleutnanta. D., welcher zuletzt bei der 2. Artillerie-Brigade stand, Wilhelm Heinrich Karl Ferdinand von Schmidt (1776–1839) und der Charlotte Friederike Tugendreich geb. von Zychlinski (1795–1821).
Nach dem Frieden wirkte er an den Ausbildung der Kavallerie und bahnbrechend bei der Leitung von Kavalleriedivisionsübungen. 1873 hat er den Roten Adlerorden II. Klasse mit Eichenlaub erhalten. Karl von Schmidt übernahm zuletzt die 7. Division. Er starb mitten in seiner Tätigkeit am 25. August 1875 in Danzig.
Familie
Schmidt vermählte sich 1841 in Berlin mit Helene Pauline von Göhren (1816–1906). Aus der Ehe gingen vier Söhne hervor und eine Tochter hervor.
1902 wurde ihm zu Ehren in Schleswig vor dem Schloss Gottorf ein Denkmal errichtet, geschaffen von dem Bildhauer Conrad Freyberg. Aus seinem Nachlass gab sein Adjutant von Vollard-Bockelberg auf Veranlassung des Inspekteurs des Kavallerie des Prinzen Friedrich Karl von Preußen eine Instruktionen betreffend Erziehung, Ausbildung Verwendung und Führung der Reiterei heraus.
Georg Duwe: Wer treu gedient hat …: Die Regiments- und Erinnerungsteller der Meissener Porzellanmanufaktur, 1900–1945: Eine kunsthistorische Studie: zugleich ein Beitrag zur Formationsgeschichte der alten Armee, der Reichswehr und der Wehrmacht. Biblio Verlag, 1985, ISBN 3-7648-1455-1.