Iniziò la propria carriera militare servendo come luogotenente generale nell'esercito dell'Hannover sotto il governo del cognato, il re inglese Giorgio III, prendendo parte nell'ambito della guerra dei Sette anni agli scontri in Portogallo al fianco del conte Guglielmo di Schaumburg-Lippe a favore del Portogallo e contro la Spagna. Nel 1776, al termine degli scontri, divenne governatore dell'Hannover e comandante delle locali Fußgarde (l'equivalente delle Footguards inglesi) ed ottenere la nomina a generale di fanteria (più tardi maresciallo di campo). Come governatore dell'Hannover, detenne di fatto tutti i poteri di un sovrano dal momento che il re inglese non poteva per legge risiedere in Germania e lasciare il trono inglese.
Poco dopo essere rimasto vedovo per la seconda volta nel dicembre del 1785, Carlo chiese il permesso di ritirarsi dalla vita militare nell'Hannover e diede le dimissioni anche da governatore. Come ricompensa per il fedele servizio tributato, Giorgio III lo nominò feldmaresciallo garantendogli anche una pensione a vita. Carlo trascorse da quel momento gran parte del suo tempo libero a Darmstadt dove divenne massone (fu membro della "Stretta Osservanza Templare" e delle logge viennesi La Beneficenza e La Vera Concordia, Mozart gli dedicò il 17 Novembre 1785 nella loggia "La Speranza Coronata" la sua ode detta funebre, scritta nel luglio di quell'anno -K477/479a-) e presidente della Commissione imperiale di credito, cogliendo talvolta l'occasione per recarsi in Inghilterra e fare visita alla sorella.
Il regno
Dopo che Adolfo Federico III era morto senza discendenti nel 1752, il fratello maggiore di Carlo, Adolfo Federico IV divenne duca di Meclemburgo-Strelitz. Dopo che anche quest'ultimo morì senza eredi nel 1794, Carlo II ereditò il ducato.
Da regnante, Carlo II incoraggiò l'agricoltura, stabilendo nel contempo anche un nuovo sistema scolastico e di polizia per il controllo del territorio. Nel 1806, il suo ducato aderì alla Confederazione del Reno. Al Congresso di Vienna nel 1815 il suo titolo venne elevato, portandolo a granduca.
Nell'estate del 1816 Carlo si recò per un tour a Rebberg, Schwalbach e Hildburghausen ma, poco dopo essere tornato in patria, si ammalò per un'infiammazione ai polmoni. Carlo morì di apoplessia il 6 novembre 1816 a Neustrelitz e gli successe il figlio Giorgio.