Para atlet dari Jerman mengambil bagian dalam sebagian besar Permainan Olimpiade sejak Permainan modern pertama pada 1896. Jerman telah mentuanrumahi tiga Permainan Olimpiade, pada Permainan-permainan Olimpiade Musim Dingin 1936, Olimpiade Musim Panas 1936, dan Olimpiade Musim Panas 1972. Selain itu, Jerman terpilih untuk mentuanrumahi Olimpiade Musim Panas 1916 serta Olimpiade Musim Dingin 1940, keduanya ditunda karena Perang Dunia. Setelah perang tersebut, Jerman dilarang ikut serta pada 1920, 1924 dan 1948. Saat negara tersebut dibagi, setiap dua negara Jerman memboikot Permainan Musim Panas: pada 1980, Jerman Barat menjadi salah satu dari 66 negara yang tak maju ke Moskwa dalam memprotes invasi Afganistan oleh Uni Soviet dan pada 1984, Jerman Timur bergabung dengan Uni Soviet (dan beberapa negara lainnya) dalam pemboikotan Permainan Musim Panas di Los Angeles.