Au cours des croisades baltes, la confrérie des Porte-Glaives est fondée en 1202 comme un ordre de chevalerie à Dünamünde (Daugavgrīva) en Livonie par l'abbé Theoderich von Treyden, à l'initiative de l'évêque Albert de Buxhoeveden, évêque de Riga, dans le but d'assurer la défense de la colonie contre les Lives et d'appuyer l'évangélisation de leur territoire. En 1204, le pape Innocent III accorde au nouvel ordre le même statut que les Templiers et il avait chargé les chevaliers de l'obéissance aux évêques de Riga. Les frères ont conquis la forteresse de Tartu (Dorpat) en 1215 et l'île de Saaremaa (Ösel) au nord-ouest en 1227.
L'année suivante, l'ecclesia Osiliensis fut créée en cadre de la Confédération livonienne par le légat pontifical Guillaume de Modène, comme compromis entre l'Église, représenté par Albert de Buxhoeveden, et l'ordre de Livonie. Le premier évêque, Gottfried, a dû céder un tiers de son diocèse à l'ordre Livonien le . En retour, il obtenait la seigneurie sur les autres paroisses en Saaremaa, Hiiumaa et Lääne (Wiek) en ayant le statut d'un prince-évêque, accordé par le roi germanique Henri VII en octobre. Toutefois, Gottfried renonça à cette fonction peu après ; son successeur, Henri I est ordonné par Guillaume de Modène le .
Avec la Livonie, le territoire épiscopal passe sous la suprématie de l'État teutonique en 1237. L'évêque Henri I a participé à la fondation de la ville de Pärnu (Pernau) par les chevaliers Teutoniques en 1251. Hermann de Buxhoeveden, un parente d'Albert, fut consacré évêque d'Ösel le à Lübeck ; il transféra son siège épiscopal de Lihula (Leal) a Haapsalu vers l'an 1279. Il concéda des droits urbains au lieu et y fit construire un château fort avec une cathédrale. Il a également entreprise la construction du château de Kuressaare, terminée à la fin du XIVe siècle.
Les évêques d'Ösel ont été en conflit permanent avec l'administration de l'ordre de Livonie et avec la noblesse de leur État.
Peu après, le Danemark céda les domaines épiscopaux en Lääne et sur l'île de Hiiumaa à l'Estonie suédoise sous le règne du roi Éric XIV, en échange des possessions de l'ancien ordre Livonien sur l'île de Saaremaa, qui devint ainsi complètement danoise. Néanmoins, en 1645 Saaremaa fut également cédée à l'empire suédois par le traité de Brömsebro. En 1721, Hiiumaa, Saaremaa et toute l'Estonie suédoise furent cédées à la Russie impériale par le traité de Nystad.