Rubin entstammt einer Musikerfamilie mit Wurzeln in Trinidad und Louisiana. Bereits als Kind hatte sie Klavierunterricht; in der High School kam die Querflöte hinzu. Sie trat mit einem Quartett auf und nahm bei Frank Foster Stunden. Nachdem sie an der Ohio State University ihren Bachelor in Journalismus absolviert hatte, nahm sie an einer Misswahl in Ohio teil, wo sie mit ihrem Vortrag von „God Bless the Child“ einen Erfolg erzielte; daraufhin beschloss sie, Jazz zu singen und gründete eine eigene Gruppe, mit der sie Cleveland auftrat. 1982 zog sie nach New York City, wo sie schon bald im Sweet Basil und im Village Vanguard mit dem Quartett von Pharoah Sanders auftrat. Sie arbeitete zunächst als Lehrerin an öffentlichen Schulen und bildete sich bei Barry Harris an dessen „Jazz Cultural Theatre“ weiter; daneben trat sie in den Gruppen von George Coleman, Lionel Hampton und Mercer Ellington auf und war 1984 auch in Ostasien auf Tournee. 1991 veröffentlichte sie ihr stark beachtetes Debütalbum „Soul Eyes“ mit Kirk Lightsey, Cecil McBee und Lewis Nash und wechselte dann ins Profilager. Daraufhin folgten Auftritte in der Carnegie Hall und bei internationalen Festivals. Sie trat weiterhin mit Kenny Barron, Etta Jones, Toots Thielemans und Cedar Walton auf. Auf internationaler Tournee war sie mit Herbie Hancock, Woody Herman und den Jazz Crusaders.