A Mongólia participou pela primeira vez dos Jogos Olímpicos em 1964, e enviou atletas para competirem em todos os Jogos Olímpicos de Verão desde então, exceto quando boicotaram os Jogos Olímpicos de Verão de 1984. O país também participa dos Jogos Olímpicos de Inverno desde 1964, perdendo apenas os Jogos de 1976.
Atletas da Mongólia ganhara um total de 19 medalhas, todas nos Jogos de Verão, a maioria na Luta Livre e no Judô. Antes dos Jogos Olímpicos de Verão de 2008, a Mongólia era o país com mais medalhas de prata e de bronze sem ouro. Sua primeira medalha de ouro na história foi no Judô, com Naidangiin Tüvshinbayar.
O Comitê Olímpico Nacional da Mongólia foi criado em 1956 e reconhecido pelo COI em 1962.