Margie Joseph, die bereits als Kind im Kirchenchor sang, feierte mit einem Soul-Cover der Paul-McCartney-Ballade My Love, das 1974 nicht nur Platz zehn der R&B-Hitparade erreichte, sondern auch Platz 69 der Billboard Hot 100, ihren größten Erfolg. Obwohl viele Kritiker Joseph seinerzeit in einer Liga mit Aretha Franklin sahen und insbesondere ihre Alben für die Labels Volt und Atlantic gelobten wurden, schaffte Joseph nie den ganz großen Durchbruch. Weitere Top-20-Hits waren eine Aufnahme mit der Philly-Soul-Gruppe Blue Magic, What’s Come over Me (1975), Hear the Words, Feel the Feeling (1976) und nach einigen ruhigen Jahren Knockout (1982). Ihre erfolgreichste LP war gleichzeitig ihr Debüt Margie Joseph Makes a New Impression, die sich 1971 14 Wochen in den amerikanischen Album-Charts halten konnte.
Joseph arbeitete über die Jahre mit vielen hochkarätigen Produzenten zusammen, so mit Arif Mardin auf den Alben von 1973 bis 1975, mit Lamont Dozier auf Hear the Words, Feel the Feeling (1976) oder mit Johnny Bristol auf Feeling My Way (1978). Außerdem sang sie auf dem von Quincy Jones und Donny Hathaway verantworteten Soundtrack zum Blaxploitation-Film Come Back Charleston Blue und 1981 im Background der LP Higher Plane von Al Green.
Nach einer letzten LP für das Label Ichiban verließ Joseph das Musikgeschäft und widmete sich der Gospelmusik sowie ihrer Familie.