Sangen ble opprinnelig skrevet i Frankrike og ble en hitlåt for Mistinguett i 1916. Den ble gjort populær i den engelskspråklige verden da sangartisten Fanny Brice spilte den inn i 1921. Det ble en svært suksessfull innspilling som ble innlemmet i Grammy Hall of Fame Award i 1999.
Balladeversjonen som Brice spile inn ble modifisert av Billie Holiday, som la til elementer av jazz og blues. Holidays versjon ble også populær, selv om sangen fortsatt ble assosiert med Brice. Sangen ble stadig covret av andre artister, selv om ingen andre fikk like mye suksess med den som Brice og Holiday. Edith Piaf spilte den inn i 1940-årene, og det er den mest kjente tolkningen av låten i originalspråket.
Peggy Lee spilte den inn for studioalbumet I Like Men! i 1959 med et minimalistisk arrangement hvor trommene spiller en sentral rolle.
I 1965 ble «My Man» spilt inn av Barbra Streisand på albumet hennes My Name Is Barbra. Hun spilte den inn på nytt for filmmusikalen Funny Girl, som var basert på scenemusikalen Funny Girl. Hun spilte Fanny Brice i filmen og fikk god kritikk for sin tolkning av låten i filmens sluttscene. Streisand vant Oscar for beste kvinnelige hovedrolle for rolleskildringen i 1969.[2]
Diana Ross fremførte låten på sin siste konsert som en «Supreme» i The Frontier Hotel i Las Vegas i Nevada 14. januar 1970. Opptredenen ble spilt inn og senere utgitt på konsertalbumet Farewell i 1970. Ross brukte Holidays jazz/blues-versjon i stedet for versjonene til Brice og Streisand. I 1972 spilte hun den inn igjen for filmen Lady Sings the Blues, hvor hun hadde rollen som Billie Holiday. Musikkalbumet til filmen ble en stor suksess, og Ross' rolleskildring i filmen fikk god kritikk. Hun ble nominert til en Golden Globe og en Oscar for arbeidet. Ross' andre versjon fulgte også Holidays jazz/blues-tolkning.
Lea Michele har sunget låten i TV-serien Glee i episoden «Funeral». Hun hadde tidligere fremført låten under MusiCares i 2011 til ære for Barbra Streisand, som hadde blitt utnevnt til Person of the Year. Regina Spektor covret sangen for TV-serien Boardwalk Empire i 2011.
