Han blev født i Viborg i 1929 som søn af den kendte lokalhistoriker og revisor Otto von Spreckelsen og Maria Antonie von Taborsky, som stammede fra Ungarn. Familienavnet von Spreckelsen stammer fra Ditmarsken i Nordtyskland. Johan Otto von Spreckelsen tilhørte som resten af familien den romersk-katolske kirke, hvilket forklarer, at han har bygget flere katolske kirker i Danmark. Han uddannede sig efter sin studentereksamen fra Viborg Katedralskole i 1948 til arkitekt på Kunstakademiet i København. Han blev senere lektor ved Akademiet og var fra 1978professor ved Kunstakademiets Arkitektskole.
I 1983 vandt han den internationale konkurrence om bygning af den monumentale Grande Arche i den nye bydel La Défense uden for Paris. Denne moderne triumfbue ligger for enden af Paris' historiske akse (l'Axe historique), der går fra hjertet af Paris ved Louvre via Concordepladsen, Champs-Elysées og den gamle Triumfbue ud til La Défense. Den franske præsident François Mitterrand tog initiativ til byggeriet af Grande Arche. En anden dansker bidrog til byggeriet, nemlig ingeniør og professor i bærende konstruktioner ved Akademiets Arkitektskole. Erik Reitzel.
Von Spreckelsen var et beskedent menneske. Da konkurrencen om triumfbuen var afgjort, spurgte journalisterne ved den officielle reception, hvad han ellers havde bygget af huse, skoler, rådhuse og idrætsanlæg. Hans svar lød:
Mange mente, at det måtte være en underdrivelse eller udslag af hans beskedenhed, men sådan forholdt det sig.
Som kollegaen Jørn Utzon oplevede Spreckelsen uoverensstemmelser med bygherren. Ved det franske valg til Nationalforsamlingen i foråret 1986 tabte socialisterne, og en borgerlig regering kom til. Den beskar store dele af budgettet, hvilket gjorde det svært at overholde kontrakterne. Von Spreckelsen trak sig fra projektet samme år. Selv om hans oprindelige idé i det store og hele blevet fastholdt, beklagede han valget af en billigere marmor til den udvendige facade.
Hans arkitektur er enkel og baseret på geometriske figurer, især kvadratet, gerne i kombinationer. Fx er orglet i Vangede Kirke opdelt i tre grupper, som hver er et kvadrat. Loftet i kirken består også af et væld af kvadrater, der senere kan genfindes i den store Triumfbue. Kirkens grundplan er baseret på kvadrater med tilbygningen indskudt som et lille kvadrat i hovedbygningen.
Hertil kommer almindelig aritmetik: Den lille triumfbue i Paris, Arc de Triomphe du Carrousel, har målene: 25 x 25 meter – den store Triumfbue (Arc de Triomphe) har målene 50 x 50 meter. Von Spreckelsen doblede videre op og kom frem til 100 x 100 meter som en passende dimension for sin nye konstruktion. Det blev dog til von Spreckelsens kube (eller kubus): 110 meter høj, 108 meter bred og 112 meter dyb. I modsætning til de øvrige bygninger i området, der ligger på linje, er kuben drejet få grader af hensyn til den eksisterende grundplan, så helt principfast eller firkantet var han ikke.
Johan Otto von Spreckelsen døde af kræft og er begravet på Hørsholm Kirkegård. Han efterlod sig foruden fire voksne børn hustruen Karen Gerda, født Gustavsen i Odense i 1933. Parret blev viet i 1955 i den katolske kirke i Odense (hans mor Maria Antonie var katolik og religiøs)..
Kun for mennesker! t program om Johan Otto von Spreckelsen / producent Jørgen Melgaard, tilrettelagt af Dan Tschernia, DR Multimedie, 1999. 1 kassette (VHS), farve med sort-hvide sekvenser.
La grande Arche / Otto von Spreckelsen, Paul Andreu, texte/text: Jean-Pierre Courtiau. Hermé, 1997. 70 sider, illustreret.
Helmuth Spanggaard: Johan Otto von SpreckelseniViborg by og egn FØR & NU, bind II, side 96, Viborg 1997.