Seine politische Laufbahn begann 1878, als er sich den Liberalen anschloss. 1880 wurde Grübl in den Wiener Gemeinderat gewählt. Ab 1891 diente er als Stadtrat und im Jahr darauf wurde er unter Johann Prix Vizebürgermeister der Stadt. Nach dessen Tod im Februar 1894 übernahm Grübl am 14. März 1894 seine Nachfolge.
Infolge des schlechten Abschneidens der Liberalen bei der Gemeinderatswahl trat er am 14. Mai 1895 freiwillig zurück. Nachfolger im Amt wurde der Regierungskommissär Hans von Friebeis.
