Davies studierte an der „School of the Art Institute of Chicago“ von 1879 bis 1882. Er besuchte kurz das Art Institute of Chicago und zog im Jahre 1887 nach New York, wo er ein Studium an der Art Students League begann und Robert Henri und George Benjamin Luks kennenlernte. Von 1888 bis 1891 war er in der Werbung tätig, wo er Reklameflächen entwarf, außerdem fertigte er technische Zeichnungen an und gestaltete Illustrationen für Zeitschriften.
In den Jahren 1912 bis 1914 war Davies Präsident der Association of American Painters and Sculptors und in dieser Position im Jahre 1913 zusammen mit Walt Kuhn und Walter Pach einer der Hauptbegründer der Armory Show.
Davies, der sein Leben lang ein Verfechter abstrakter Kunst war, hatte Alfred Barr bei der Gründung des Museum of Modern Art in New York unterstützt. Nach einem Herzinfarkt im Jahr 1923 reiste er nach Florenz, wo er noch eine Serie von romantischen Bildern der Landschaft Norditaliens malte, bevor er einsam in seinem Atelier verstarb.
Er ist bekannt für die ätherischen Figuren in seinen Gemälden, die eine romantische, nostalgische und oft eine mysteriöse Qualität besitzen. Die klein gehaltenen Figuren arrangierte er oftmals vor einen dunklen Hintergrund, wobei seine Bilder eine eigene poetische Stimmung und einen speziellen Symbolismus erhalten.