Inspiracją dla kolumny była antyczna Kolumna Trajana oraz kilka pomników zaprojektowanych i nigdy nie zrealizowanych w czasach Wielkiej Rewolucji Francuskiej, przede wszystkim Kolumna Narodowa, pod którą na Place Vendôme położono w 1800 kamień węgielny. Trzy lata później Napoleon Bonaparte wrócił do projektu, lecz zamiast poświęcić ją chwale narodu, miała głosić sławę samego Pierwszego Konsula. Ostatecznie prace nad obeliskiem trwały od 1805 do 1810, rozważano również kilka koncepcji nazwy.
W 1871 w czasie Komuny Paryskiej Rada Komuny zdecydowała o usunięciu kolumny jako:
symbolu brutalnej siły i fałszywej chwały, afirmacji militaryzmu, negacji prawa międzynarodowego, permanentnej obelgi zwycięzców w stronę zwyciężonych, ataku na 1 z 3 zasad Republiki: braterstwa.
16 maja 1871 kolumna, ku radości zgromadzonych tłumów, została obalona.
Dwa lata później, już po zdławieniu Komuny i w czasie prezydentury marszałka Mac-Mahona, kolumna została odbudowana.
NEAPOLIO IMP AVG MONVMENTVM BELLI GERMANICI ANNO MDCCCV TRIMESTRI SPATIO DVCTV SVO PROFLIGATI EX AERE CAPTO GLORIAE EXERCITVS MAXIMI DICAVIT
co oznacza: Cesarz Napoleon poświęcił chwale Wielkiej Armii tę kolumnę, pomnik wzniesiony z dział zdobytych na przeciwniku w wojnie z Niemcami w 1805, która to wojna, pod jego dowództwem, skończyła się w trzy miesiące.