Nell'autunno del 1862, Federico intraprese la carriera militare nell'esercito prussiano e, con il grado di sottotenente, fu assegnato al V° reggimento di Uhlan della Westfalia a Düsseldorf. Con questo reggimento Federico nel 1866 prese parte alla guerra austro-prussiana. Nella primavera del 1870, fu trasferito al I° Reggimento dei Dragoni e gli fu assegnato il grado di capitano. Alcuni mesi dopo, nel 1870 prese parte alla guerra con la Francia. Dal 17 giugno 1889 al 21 settembre 1893, Federico comandò la XXIIa divisione.
Suo padre stava pensando di proporre non solo il primogenito di Leopoldo, ma anche Federico come candidato al trono di Spagna. All'inizio, Leopoldo non mostrò alcun interesse, perché era sposato con la principessa portoghese Antonia, che rifiutò questa idea dalle convinzioni patriottiche. La regina Vittoria e il Kaiser Guglielmo I erano piuttosto scettici riguardo a questi piani. Carlo Antonio ha invano riposto le sue speranze su Federico, che decise di rifiutare la corona spagnola.