Grimminger ble født i Augsburg i Bayern og gikk inn i Den keiserlige tyske hær 16 år gammel. I første verdenskrig gjorde han tjeneste som mekaniker i et luftforsvarsregiment fra 1914 til 1917. Han deltok i slaget om Gallipoli. Han gjorde også tjeneste ett år i Palestina og reiste deretter tilbake til Tyskland. Han ble tildelt Jernkorset (av andre klasse, bayerske utmerkelser og den tyrkiske gallipolistjernen og ble dimittert i 1919.
Tidlig nazimedlem
Grimminger sluttet seg til nazistpartiet (NSDAP) i 1922 og ble medlem av Sturmabteilung (SA). Samme år deltok han i slåsskampene i Coburg og året etter i Ølkjellerkuppet i München. Etter å ha gjort tjeneste ved hovedkvarteret til NSDAP ble han i 1926 valgt til medlem av SS, og var en av de 200 første medlemmene av SS.
Grimminger ble forfremmet gjentatte ganger under sin tjeneste i SA og SS, og fikk til slutt rang som SS-Stadartenführer (1943). Som medlem av SS fikk han i 1926 det ærefulle oppdraget å bære den blodfanen fra kuppforsøket i 1923. Han var den offisielle fanebæreren ved seremonielle anledninger, og det er ved dette at han ble mest kjent.
Grimminger overlevde andre verdenskrig og ble stilt for retten av de allierte i 1946 for å ha vært medlem av SS og å ha båret blodfanen i 19 år. Han ble ikke idømt fengselsstraff, men all hans eiendom ble konfiskert.
I 1948 gikk han inn i politikken og fått stilling som rådmann i München, men fortiden gjorde at han måtte fratre denne stillingen.
