L'album faillit ne jamais voir le jour, puisqu'au début Greg Lake refuse de jouer la pièce homonyme la trouvant trop peu accessible, au risque de quitter le groupe, mais à force de discussions, Keith Emerson réussit à le convaincre de tenter l'expérience.
La suite Tarkus, qui dure plus de 20 minutes, occupe l'intégralité de la première face du 33 tours. Elle décrit l'histoire d'une créature mi-tatou, mi-char de combat, qui affronte une manticore dans un duel épique. La pochette de l'album, œuvre de William Neal(en), représente le Tarkus.
L'album est réédité en 2012 dans une version comprenant deux CD et deux DVD, remixé par Steven Wilson avec du matériel inédit, dont les titres Mass dans une version alternative, Oh My Father et Unknown Ballad, ces deux dernières n'ayant jamais vu le jour auparavant.