Луксембург се први пут појавио на Олимпијским играма 1900. године. Од тада спортисти из Луксембурга су учествовали на већини Летњих олимпијских игара, пропустили су само игре 1904, 1908 и 1932. године.
На Зимским олимпијским играма Луксембург је први пут учествовао 1928. године. Велики прекид у слању спортиста не Зимске олимпијске игре Луксембург је имао у периоду 1948—1984, али је са времена на време слао такмичаре и то на до сада укупно 7 игара. Поредећи летње и зимске игре спортисти Луксембурга су успешнији на зимским играма, узимајући у обзир број учешћа и број медаља, захваљујући скијању Марку Ђирарделију који је освојио две сребрне медаље.
Луксембург никада није био домаћин олимпијских игара и спортисти из Луксембурга, закључно са 2018. годином, су освојили четири олимпијске медаље две (златна и сребрна) на летњим и две (сребрне) на Зимским олимпијским играма.
Национални олимпијски комитет Луксембурга (Comité Olympique et Sportif Luxembourgeois) је основан 1912, а признат од стране Међународног олимпијског комитета исте године.
Од скора је Луксембургу признато као прво учешће на олимпијским играма 1900. година, наиме утврђено је да је маратонац Мишел Теато у ствари Луксембуржанин, који се тада такмичио за Француску. Било како златна медаља коју је Теато освојио у маратону и даље се приписује Француској од стране МОК-а.