Alma nacque in una famiglia ebrea di Iași in Romania, da Zara e Leon Feinsohn.[1] Con i genitori si trasferì negli Stati Uniti in tenera età. Nonostante gli iniziali successi al Metropolitan Opera di New York, dove debuttò nel novembre 1909 come Sophie nel Werther ed apparì regolarmente fino all'aprile 1912, ebbe poi una carriera itinerante da concertista in tutti gli Stati Uniti. L'ultima delle sue 112 presenze al Met risale al marzo 1918, in un concerto.
Fu anche fra i primi cantanti ad incidere le sue esecuzioni.
Il suo disco Carry Me Back to Old Virginny per la RCA Red Seal Records del 1915 fu la prima registrazione di un cantante classico a raggiungere il milione di copie vendute. Alma Gluck fondò la American Woman's Association. Si ritirò a New Hartford nel Connecticut per badare ai suoi figli nel 1925. Morì a 54 anni per una malattia epatica.