Heiberg divenne noto principalmente per la sua scoperta di testi precedentemente sconosciuti nel Palinsesto di Archimede. Egli studiò la pergamena manoscritta a Costantinopoli nel 1906 e scoprì che conteneva un lavoro matematico di Archimede allora sconosciuto agli studiosi, dal titolo Metodo di Archimede sui teoremi meccanici, ad Eratostene. L'importanza di quest'opera risiede nel fatto che Archimede spiega ad Eratostene il procedimento (tropos, nel testo greco) da lui seguito per le sue scoperte. Heiberg esaminò il manoscritto solo ad occhio nudo, in seguito sono state effettuate moderne analisi del documento tramite raggi X e radiazione ultravioletta.