Floyd Sidney Newman III grandit dans une famille de musiciens amateurs. Son père, Floyd Newman Jr. joue du saxophone et du violon, tandis que sa mère, Lillian Hill Newman, est pianiste. Il fréquente la Booker T. Washington High School, dans laquelle étudient également Rufus Thomas, Al Jackson, William Bell, David Porter, Andrew Love, Maurice White et Booker T. Jones. En 1952, il effectue son service militaire dans une fanfare de l'US Army à Fort Benning, en Géorgie[2].
À la fin des années 1940, Floyd Newman devient membre de la B. B. King Review avec, entre autres, George Coleman et George Joyner. Newman déménage ensuite à Détroit, où il enregistre avec Jackie Brenston[3], puis tourne avec Sam Cooke ou Jerry Butler, avant de revenir à Memphis. Il dirige alors un groupe qui se produit au Plantation Inn à West Memphis, comprenant Howard Grimes à la batterie, Joe Woods à la guitare et Isaac Hayes aux claviers[2]. En 1963, ce line-up enregistre un 45 tours, Frog Stomp, co-écrit par Newman et Hayes. Auparavant, ils se sont côtoyés tous deux dans le groupe maison de Ben Branch au Tropicana Club, avec Hayes comme chanteur[4].
Au début des années 1960, Floyd Newman a rejoint The Mark-Keys, dont le premier single, Last Night, se classe 2e des charts Rhythm and blues et 3e du Billboard Hot 100 en 1961. C'est lui qui prononce les seules paroles de ce morceau instrumental : « Ooooh... Last Night »[2]. Il co-écrit également la plupart des titres du groupe.
Par la suite, Floyd Newman travaille en tant que directeur musical, mais aussi comme conseiller d'orientation pour les écoles de la région[6]. Il est honoré d'une « note de cuivre » sur le Walk of Fame de Beale Street, à Memphis, en 2016.
En 2018, à l'occasion de son 50e anniversaire de mariage, il fait don au Stax Museum du saxophone que son père lui avait offert en 1949, le seul instrument sur lequel il ait joué tout au long de sa carrière[2].