Al in de klassieke oudheid ontdekte men dat kristallen van magnetiet, afhankelijk van de richting waarin zij liggen, elkaar aantrekken of afstoten, een verschijsel dat men magnetisme noemde. Magnetische stenen, Oudgrieks: λίθος Μάγνης, lithos Magnēs, waren al bij de Grieken bekend, volgens de geschriften van Theophrastus. Het is waarschijnlijk dat magnetiet genoemd is naar Magnesia, een landstreek in Thessalië of naar de steden in het oude Griekenland en Anatolië, een deel van Turkije, met dezelfde naam, naar bijvoorbeeld Magnesia aan de Meander en Magnesia aan de Sipylos, waar al meer dan 2500 jaar magnetische brokken ijzererts gevonden worden.
Magnetiet werd in China al in de 11e eeuw v. Chr. om de magnetische eigenschappen ervan gebruikt.
De Romeinse schrijver Plinius de Oudere maakt melding van een steen genaamd 'magneet', die naar Magnes zou zijn genoemd, een Kretenzische schaapherder die het mineraal op de berg Ida had gevonden. Hij merkte dat de spijkers in zijn schoenen en de ijzeren kop van zijn staf door het gesteente waar het mineraal in zat aangetrokken werden. Plinius maakte onderscheid tussen verschillende soorten magneten, vooral tussen 'mannelijke' en 'vrouwelijke'. Alleen de mannelijke bezat de kracht ijzer aan te trekken, dat was magnetiet. Bij vrouwelijke magneten ging het vermoedelijk om mangaanerts, dat uiterlijk veel op magnetiet lijkt, of ook om een wit mineraal dat later magnesiet werd genoemd.
De naam 'magneet', als middeleeuwse aanduiding voor een magnetische steen, en het in 1845 door Wilhelm Haidinger ingevoerde 'magnetiet', ontstonden uit de Latijnse stam 'magnet-', met als nominatiefmagnes, magneet.
Verschillende diersoorten hebben enige magneetzin, omdat zij magnetoreceptoren hebben. Zij zijn vooral gevoelig voor het aardmagnetisch veld. Er is in de receptoren van deze dieren magnetiet gevonden, zelfs bij de mens, in het zeefbeen van de neus.
