De instelling is in 1905 opgericht als het Institute of Musical Art. In 1920 richtte de Juilliardstichting, genoemd naar een textielhandelaar, de Juilliard Graduate School voor muziek op. In 1926 fuseerden beide instellingen. Vanaf 1946 was de naam The Juilliard School of Music.
Het conservatorium wordt meestal kortweg Juilliard genoemd en is vermaard om zijn oud-leerlingen. Het is sinds 1969 gevestigd in het Lincoln Center en geeft onderricht aan zo'n 700 studenten in muziek, toneel en dans.
The Juilliard School kent een keur aan ensembles, zoals voor kamermuziek, jazz, orkest- en koorwerk. Het Axiom Ensemble is een groep, van studenten en door studenten gemanaged, voor grotere 20e-eeuwse werken. Ook zijn er diverse (zogenaamde resident) ensembles die op de school optredens verzorgen, waaronder het Juilliard String Quartet.