Han tilhørte en gammel katolsk saksisk adelsslægt og var søn af den kejserlige regeringsråd Fedor von Bose (1856-1919), afdelingschef i den kejserlige generaldirektion for jernbanen i Elsass-Lothringen, og hans første kone Johanna Dill (1859-1888).
Bose var først kongelig preussisk kaptajn. Som politisk sekretær for vicekansler Franz von Papen blev han chef for vicekanslerens presseafdeling. I denne funktion var han en af forfatterne af Marburgtalen, som tydelig formulerede den konservative kritik mod nationalsocialismen. Som resultat af denne tale blev han skudt og dræbt af SS ved sit skrivebord i 1934 i forbindelse med de lange knives nat.
