Nielsen var en av tre danske deltagere i de første olympiske lekene i Athen i 1896. Nielsen kom på tredjeplass i fekting med sabel. Han deltok også i flere øvelser i skyting, han kom på andreplass i fripistol, på tredjeplass i hurtigpistol og en femteplass i militærpistol. Han deltok også i friidrett i diskos.
Nielsen var den første som beskrev reglene for håndball. Det skjedde i 1906.[2] Under Ekstralekene 1906 i Athen var han leder for det danske turnlaget som vant lagkonkurransen.
Nielsen oppfant og instruerte Holger Nielsen-metoden til gjenopplivning av druknede i 1932. Denne metoden er senere avløst av munn-til-munn-metoden som inngår i dagens hjerte-lunge-redning.