Ifølge flere av oldkirkens forfattere var Simon den første gnostikeren og ledet en egen sekt hvor han spilte en sentral, muligens guddommelig rolle. Hans angivelig magiske evner er en del av bildet, det samme er forholdet til den prostituerte Helena,[3] som skildres som «hans tanke». Simon skal ha forfattet noen skrifter som er kjent ved navn, men ellers tapt: De fire verdenshjørnene og Kjetterens preken.
Hippolytus av Roma hevder i sitt skrift Philosophumena der han tar til orde mot kjetteri, at Simon Magus tok utgangspunkt i Moses' beskrivelse av Gud som «en brennende og fortærende ild», og at ilden dermed måtte være universets bærende prinsipp.[4] Seks «æoner», «røtter» eller «krefter» stiger parvis ut av ilden. Hvert par består av en mannlig og en kvinnelig part, der førstnevnte ser ned på og drar omsorg for den kvinnelige part. Første par ut er «ånd» og i«ntelligens» som identifiseres som «himmel» og «jord». Annet par ut er «stemme» og «navn», identifisert som «sol» og «måne». Tredje og siste par ut er «fornuft» og «tanke», identifisert som «luft» og «vann». Disse seks «røtter» utgjør universets grenseløse kraft, men forholder seg passive. Hippolytus hevder at Simon hadde demoner i sin tjeneste, og at hans tilhengere gjorde bruk av trylleformler og trylledrikker, tilbad bilder (også av Simon og Helena) og fikk demoner til å påføre folk drømmer.[5]
I Petersaktene og Pseudoklementinene fremstår Simon som en sjarlatan med trekk av Antikrist, trolig på bakgrunn av sin sekt i Samaria, kalt simonianismen, som rivaliserte med Kristi apostler. Simonianerne skal ifølge kirkefedrene ha dyrket bilder som fremstilte Simon og Helena som Zevs og Athene, men sekten ser ut til å være forsvunnet i løpet av 200-tallet.[6]
De faktiske, kjente omstendighetene rundt Simons liv og gjerninger er få, og preget av at kirkefedrene fremstilte ham i en arketypiskkjetterrolle. Epifanios, biskop av Salamis på Kypros fra 367, fremstiller ham i Panarion som begynnelsen og roten til det mangegreinede treet som utgjorde gnostisismen. Ifølge det apokryfe skriftet Peters gjerninger møttes Peter og Simon på Forum Romanum i Roma hvor de konkurrerte i mirakler og magi; Peter vant, og Simon omkom da han flyktet. Mytestoffet om Simon levde videre, også i myten om Faust.
På 100-tallet stiftet Saturninus fra Antiokia en gnostisk sekt som vanligvis forbindes med tradisjonen etter Simon Magus, der Jahve regnes som en av englene, krigerengelen.[7]
Irenaeus' omtaler Simon i sitt verk Adversus Haereses – «Mot kjetterne», er oversatt til norsk i samlingen Gnostiske skrifter, 2002.
«Simon Magus' fall», freske malt av Giovanni Paolo Lomazzo (1538–92) i Chiesa di San Marco (Markuskirken) i Milano. Ifølge tradisjonen om Peter i Roma overvant og vanæret han Simon Magus, keiser Neros fremste trollmann, som med djevelens hjelp forsøkte å fly fra Kapitol utover byen, men styrtet i bakken.[8]
