Mitchell è nata a New York, figlia di madre afroamericana e di un ebreo tedesco, ma fu cresciuta a Baltimore dalla zia Alice Payne. Dopo il diploma tornò negli Stati Uniti nel 1897 per studiare canto. L'anno successivo Paul Laurence Dunbar e Will Mario Cook la vollero nel loro musical di grande successo Clorindy: The Origin of the Cakewalk; l'anno successivo Mitchell sposò Cook e successivamente cantò nei musical Jes Lak White Folks (1899) e The Southerners (1904) in ruoli da protagonista. Nel 1900 la coppia ebbe una figlia, Marion Abigail Cook, e nel 1903 Abbie Mitchell diede alla luce un altro bambino, Will Mercer Cook.
Nel 1903 fece il suo debutto londinese nel musical In Dahomey, composto da suo marito e prodotto da Bert Williams; la performance di Mitchell fu un trionfo e la cantante si esibì anche davanti a Edoardo VII e Alessandra di Danimarca a Buckingham Palace.[2] Dopo aver recitato nell'operetta The Red Moon (1908), fece il suo debutto cinematografico nel film Lime Kiln Club Field Day (1913). Nel 1938 cantò nella prima mondiale dell'opera di George GershwinPorgy and Bess, diventando la prima interprete del ruolo di Clara e portando l'aria Summertime al successo. Nel 1939 recitò a Broadway nel dramma Le Piccole volpi, accanti a Tallulah Bankhead.[3] Successivamente si ritirò dalle scene e cominciò ad insegnare canto alla Tuskegee University.