Die Kirche wurde an Stelle einer zuvor dort befindlichen Marien-Kapelle aus älterer Zeit errichtet und im einfachen Barockstil 1725 vollendet. Der Pfarrgarten wurde an Stelle des 1784 aufgelassenen und nach Nikolsdorf verlegten Friedhofs angelegt. Der Befehl Josephs II. zum Abriss der Kirche scheiterte 1787 am Widerstand der Bevölkerung. 1820 wurde ein Sakristeigebäude angebaut.
Am 10. Mai 1953 wurden drei neue Glocken geweiht und aufgezogen. Die mittlere Florianiglocke wurde von den Feuerwehren des niederösterreichischen Landesfeuerwehrverbandes gespendet, wobei auch Metall gespendet wurde,[1][2][3][4][5][6] beispielsweise alte Messingfeuerwehrkupplungen.[7] 400 Kameraden aus Niederösterreich und den bis 1954 noch zu Groß-Wien gehörenden Randgemeinden nahmen an der Weihe teil und 40 Feuerwehrmänner zogen dann die Glocken auf.[8]
Ab 30. August 1965 erfolgte der Abriss aus verkehrstechnischen Gründen, ungeachtet einer Protestwelle mit 13.000 Unterschriften. Die Tatsache, dass das Gotteshaus in der Mitte der – an dieser Stelle allerdings erweiterten – Wiedner Hauptstraße stand, bildete zwar den besonderen urbanen Reiz des Bauwerks, hatte aber schon vor dem Zweiten Weltkrieg zu Überlegungen geführt, es den Rücksichten des zunehmenden Verkehrs zu opfern. 1935 wurde deshalb bereits der weit in die Straße hineinragende Pfarrhof abgetragen. Ab 1955 verstärkten sich diese Tendenzen, wobei offenbar sowohl die Gemeinde Wien als auch die katholische Kirche an der Beseitigung des „Verkehrshindernisses“ und der Errichtung einer neuen Kirche interessiert waren. Der Abriss der alten Pfarrkirche wurde auch mit der Errichtung einer U-Straßenbahn begründet. Die USTRABA-Trasse in der Wiedner Hauptstraße wurde im Anschluss gebaut und wird an dieser Stelle von mehreren Straßenbahnlinien sowie der Badnerbahn befahren. Ein von der Stadtverwaltung ausgeschriebener Ideenwettbewerb zur Neugestaltung des Straßenraums zwischen Klieber- und Laurenzgasse erbrachte als Siegerprojekt einen von Johann Staber (1928–2005) entworfenen 24 m hohen, für die Mitte der Wiedner Hauptstraße vorgesehenen Glockenturm, der den durch Kirchenabbruch möglich gewordenen Ruheplatz ersetzen sollte – jedoch unrealisiert blieb.[9]
Alfred Prokesch: Requiem für eine Kirche. Wie Wien zur Weltstadt demoliert wurde – und eine Analyse der Hintergründe. In: Die Zeit, Jg. 1965 Ausgabe 40, 1. Oktober 1965. (Volltext in Zeit online.)
↑Geschichte der Feuerwehr Bad Vöslau von 1946 bis 1964. In: ffbv.at. Feuerwehr der Stadt Bad Vöslau, abgerufen am 16. Februar 2015: „Das Landesfeuerwehrkommando erließ einen Aufruf an alle niederösterreichischen Feuerwehren zur Spende alter Messingkupplungen zum Guss einer Glocke für die Florianikirche in Wien.“
↑Wiedner Hauptstraße: Glockenturm. Ideenwettbewerb der Stadtverwaltung: Wiener Architekt gewann den ersten Preis. In: Arbeiter-Zeitung. Wien 12. Juli 1966, S.7.
Sakralbauten im 5. Wiener Gemeindebezirk Margareten