Unter Papst Pius IX. wurde am 21. Mai 1878 das Apostolische Vikariat Scen-Si aus dem Vikariat Nord Scen-Shi (陝西北境) heraus gegründet. Unter Papst Pius X. erfolgte 1911 die Umbenennung zum Apostolischen Vikariat Shensi. Am 3. Dezember 1924 wurde das Apostolische Vikariat Sianfu (西安府) begründet. Durch Papst Pius XII. wurde am 11. April 1946 das Vikariat zum heutigen Erzbistum Xi’an erhoben.
Aufgrund der politischen Verhältnisse konnte das Erzbistum nach dem Tod von Pacifico Giulio Vanni 1952, dem ersten von der Römisch-katholischen Kirche anerkannten Erzbischof, mehr als 50 Jahre lang nicht mehr besetzt werden. Der seit 2006 amtierende Erzbischof Anthony Dang Mingyan wurde mit Anerkennung der römischen Kurie eingesetzt.