半島周圍的海域較為危險,尤其是在半島尾部。在古希臘歷史中,曾經發生過兩起船難:前492年,波斯國王大流士一世在該海域失去了300艘由馬鐸尼斯指揮的船隻(希羅多德著作《歷史》第5冊Erato,埃斯庫羅斯著作《半島》)。前411年,斯巴達人也在該海域失去了50艘船(西西里的狄奧多羅斯著作Bibliotheca historica XIII 41, 1–3)。
古希臘歷史學家希羅多德記述從利姆諾斯島上來的皮拉斯基族人移民至此半島,當時稱作Acte或Akte(Herodotus, VII:22)。斯特拉波紀錄半島上的五個城市:Dion (Dium), Cleonae (Kleonai), Thyssos (Thyssus), Olophyxos (Olophyxis), Acrothoï (Akrothoön), of which the last is near the crest. (《地理學》, VII:33:1 ,斯特拉波) Eretria 亦於 Acte 建立了殖民地。另外兩個城市則建立於古典時期 : Acanthus (Akanthos) 及 Sane. 部分城市自己鑄幣。
历史上对古代阿索斯山的记载很少,只知道公元4世纪修士们已经来到这里,很可能是更早的3世纪。在君士坦丁大帝的統治時期(324年─337年),基督教徒與異教徒均居住於此。在背教者尤利安(Ιουλιανός o Παραβάτης,361年─363年)統治時期,阿索斯山的教堂被摧毁,基督徒藏身於树林中或難以接近的地方。後來,於狄奧多西一世的統治時期(Θεοδοσιος ο Μεγας,383年─395年)摧毀異教徒的神殿。辭典編纂者Esychios the Alexandrian(Ησύχιος ο Αλεξανδρεύς)記載:在5世紀時,仍有異教徒的神殿以及「宙斯 Athonite」的雕像。在穆斯林征服埃及(7世纪)后,许多修士从埃及沙漠前往尋找另外的樂土,一部分的人到了此地,並於阿索斯半岛生根。一份古籍記載了修士們「...用窄木板建造茅舍,以稻草為頂,從野地採集水果做為額外的食物...」。
拜占庭时期
懺悔者狄奧法內斯(Theophanes the Confessor,Θεοφάνης ο Ομολογητής,8世紀末)及喬治·克迪諾斯(George Kedrinos,Γεώργιος Κεδρηνός,11世紀) 於726年寫下了從阿索斯山看見席拉火山噴發,提供當時已有居民居住於此的資料。史學家真尼西柯(Genesios,Γενεσιος)紀錄了來自阿索斯山的僧侶參加了第七次的Ecumenical Synod of Nicaea (843年) (疑為 第二次尼西亞公會議)。860年左右,著名的僧侶 Efthymios the Young (Ευθυμιος ο Νεος)来到阿索斯山,在他的住處週圍建起了一些僧侶庵社("skiti of Saint Basil"),可能靠近於 Krya Nera。在被稱作"馬其頓人" (acedonian, Βασίλειος Α' ο Μακεδόνας)的皇帝巴西尔一世 統治下,前克里特大主教 (後來是塞薩洛尼基大主教) Basil the Confessor (Βασίλειος ο Ομολογητής)在現今位於希利安达里乌修道院的港口建起了一个小修道院。此後不久,一份883年的文件記載了 約翰·科洛沃斯(Ioannis Kolovos ,Ιωαννης Κολοβος) 於 Megali Vigla 建起了修道院。在一枚885年的巴西尔一世金幣上, 聲明阿索斯山是屬於僧侶的地方,俗人、農夫或牧人不得定居於此。次年,在皇帝利奧六世的王室佈告中,我們可以讀到:"...so called ancient seat of the council of gerondas (council of elders)...", 指出在那已有某種行之有年的僧侶管理制度。887年,一些僧侶向皇帝——智慧者利奧六世提出了勸告:Kolovos 修道院發展得愈來愈大以至於失去(各修道院之間)的和平。908年,"第一位"僧侶的存在被文件紀錄下來,這位僧侶是修道院社群的領導者。943年,修道院的邊界被精確繪制成地圖,當時卡里埃斯已是主要城鎮,擁有行政的一席,並有了“中心大教堂”( "Megali Mesi Lavra",Big Central Assembly)的名字。956年,一份公告出示 Xiropotamou 修道院約1/4英畝的土地(2 500 m²),这意味着这座修道院已经很大了。
958年,修士圣亚他那修的安東尼 (Άγιος Αθανάσιος ο Αθωνίτης)到达阿索斯山。962年,在Karies建造"Protaton"中心大教堂。次年,得到朋友——皇帝尼基弗鲁斯二世的支持,大拉伏拉修道院開始建造,到今天他仍是20个修道院中最大、最著名的一個。享受著拜占庭帝国皇帝保護,此修道院在接下來的幾個世紀中,財富與財產顯著的增長。13世纪的第四次十字軍東征產生了天主教的新霸主,直到加泰罗尼亚 傭兵於14世纪的奇襲使拜占庭帝国復興前,僧侶向教宗諾森三世抱怨並要求仲裁。14世紀中的於靜修(hesychasm)的神學衝突:實踐於阿索斯山並由Gregory Palamas所保禦的。
根据由神聖共同體(The Holy Community)於1913年10月3日通過的法令以及国际条约 : 伦敦条约(1913年)、布加勒斯特条约(1913年)、納伊條約(1919年)、色佛爾條約(1920年)和洛桑条约(1923年),阿索斯山自治区域被認定為希腊的一部分。之後希臘內閣批准了由卡里埃斯的聖域共同體之特別雙重議會("Special Double Assembly" of the Holy Community in Karyes)通過的阿索斯山憲政路線圖(Constitutional Map)。這個政體源自於「修道院自治州」(self-ruled monastic state),載於一張由拜占庭皇帝約翰一世於972年簽署並密封的金璽詔書上。這份文件被保存於卡里埃斯的聖域行政委員會(House of the Holy Administration in Karyes)。阿索斯山的独立之後由皇帝阿歷克塞一世 於1095年重新承認。根据希腊的憲法 (页面存档备份,存于互联网档案馆),阿索斯山(the "Monastic State of Aghion Oros")政治上自治,並由20所主要的修道院所組成(組成神聖共同體來管理此區域),首府兼行政中心的卡里埃斯作為希腊一省代表——省長的駐地。在希臘許可下,阿索斯山的狀態被特意的標明,並交由欧盟批准(當時是歐洲共同體)。
阿索斯山的修道院一直反對普世教會合一運動,尤其針對君士坦丁堡正教会頻頻向罗马天主教示好的舉動,附帶一提君士坦丁堡的舉動,也在俄羅斯東正教會、塞爾維亞東正教會等其餘東正教牧首的教會內眾多神職人員與信眾的反對。對於此觀點,埃斯菲格迈诺斯修道院特別敢言,於1972年豎起黑旗抗議君士坦丁堡普世牧首阿忒纳哥拉一世與保祿六世會晤。埃斯菲格迈诺斯修道院隨後被逐出了 Athonite Community 的代表團。2002年,衝突擴大,君士坦丁堡普世牧首巴尔多禄茂一世宣佈埃斯菲格迈诺斯修道院僧侶是不合法的修士會,並下令驅逐他們;修士們拒絕此驅逐命令,並封鎖抵抗前來取代他們的修士會。
然而在希腊内战期间,阿索斯山确实收容了包括妇女和女孩的难民[7]。在1930年代,甚至更發生了一件意外事件:第一位贏得欧洲小姐的希腊選美選手阿利基·蒂波拉拉可(英语:Aliki Diplarakou),以男性裝束混進阿索斯山,震驚了世界。她違反禁忌的行為在1953年7月13日《時代雜誌》獲得專題報道[8],標題是:“罪的頂點”(The Climax of Sin),文章內容是透過歷史談論「女人角色」的轉換。