Perinteen tai legendan mukaan ritarikunta juontaa juurensa ensimmäiseen ristiretkeen ja Godefroy de Bouillonin aikaan, jolloin kristityt valtasivat Jerusalemin. Ristiretket järjestettiin Pyhän haudan vapauttamiseksi, ja Godefroy käytti perinteen mukaan "Pyhän haudan vartijan" arvonimeä. Vuonna 1342 paavi Klemens VI antoi bullassaan "Gratiam agimus" Pyhän maan hoidon virallisesti fransiskaanien tehtäväksi, mutta varsinaisen ritarikunnan perusti paavi Aleksanteri VI vuonna 1496, ja antoi fransiskaaneille oikeuden myöntää ritarin arvonimi pyhiinvaeltajille. Paavi Pius IX perusti uudelleen Jerusalemin latinalaisen patriarkaatin vuonna 1847 ja siirsi sille ritarikunnan suurmestarin viran. Vuodesta 1907 paavi itse toimi hetken ritarikunnan suurmestarina. Vuonna 1932 paavi Pius XI hyväksyi uuden perustuslain ja salli ritarien liittyä ritarikuntaan kotipaikkakunnallaan eikä ainoastaan Jerusalemissa. Vuonna 1940 paavi Pius XII nimitti kardinaalin ritarikunnan suojelijaksi ja keskitti organisaation Roomaan. Suurmestarit on siitä lähtien nimitetty katolisen kirkon kardinaalien keskuudesta. Paavi Johannes XXIII hyväksyi uuden perustuslain vuonna 1962, ja Vatikaanin toisen kirkolliskokouksen uudistuksen myötä paavi Paavali VI hyväksyi uuden perustuslain vuonna 1977. Nykyään ritarikunta pyrkii toimimaan paikallisseurakunnissa.[4][5] Suomen käskynhaltijakunnassa on noin kymmenen jäsentä.[6]