Neix a Egipte fill de Nissim i Sarah, al si d'una família grega originària de l'illa de Corfú i es cria en un ambient multicultural (jueu, grec, italià, àrab i francès). Molt aviat sent entusiasme per la literatura i la cançó francesa (especialment per Édith Piaf).
S'instal·la a París el 1951, i exerceix diferents treballs: periodista, cambrer en un piano-bar on començarà a tractar les personalitats del món musical de l'època. Sentir cantar Georges Brassens va ser per a ell una revelació. Des de llavors el considerarà el seu mestre, fins al punt d'adoptar el seu nom (Georges) com pseudònim artístic.
El 1958 coneix Édith Piaf i escriurà per a ella la lletra d'una de les seves cançons més populars, Milord. En els anys 60 escriu cançons per als grans noms de la cançó francesa, com Henri Salvador, Colette Renard, Yves Montand, Juliette Gréco, però especialment, per a Serge Reggiani. D'aquesta època són alguns dels seus grans èxits: Sarah, Ma Solitude, Il est trop tard, Ma Liberté i La dame brune' que va interpretar a duo amb Barbara.
El 1968 escriu, compon i interpreta Le Métèque (paraula despectiva per parlar d'un estranger), el seu major èxit, que va marcar un rellançament de la seva carrera artística. El gener de 1970, va fer el seu primer concert com estrella a "Bobino", una famosa sala de music-hall de Montparnasse. A partir de llavors la seva popularitat no ha fet sinó créixer.
L'any 2000 grava en el disc "Y rodará el mundo" de la cantautoracatalanaMarina Rossell el tema Les anges sont très a la mode (Els àngels estan molt de moda) i comparteixen junts l'escenari del Palau de la Música Catalana de Barcelona l'any 2007 interpretant en català la cançó Vagabond.
El 8 de gener de 2009, Georges Moustaki en un concert al Palau de la Música Catalana de Barcelona va explicar al públic que els seus problemes respiratoris no li permetien assegurar la realització del concert. Només va cantar tres cançons en el que seria el seu darrer concert.[5] El 14 d'octubre de 2011, el cantant anuncià a la premsa que deixava definitivament de cantar.[6]
Georges Moustaki va fer dues incursions en el món del cinema com a protagonista de dues pel·lícules: Mendiants et orgueilleux (Jacques Poitrenaud, 1971) i Livingstone (Jean Chapot i Nelly Kaplan, 1981). Altres films on apareix en algun petit paper són: Trans Europe Express (Yutaka Ohara, 1983), Les mouettes (Jean Chapot, 1990), El comte de Monte-Cristo (Josée Dayan, 1998), Alla rivoluzione sulla Due Cavalli (Maurizio Sciarra, 2001), Akoibon (Edouard Baer, 2004) i Navarro (Sèrie de TV, Philippe Davin, 2004).
Com a compositor ha escrit música per a les següents pel·lícules:
Les chiuchachas (curtmetratge d'Henri Garcin, 1961)
Jusqu'au bout du monde (François Villiers, 1962)
Le roi du village (Henri Gruel, 1962)
Vingt-quatre heures d'amant (curtmetratge de Claude Lelouch, 1964)
Mon filleul et moi (sèrie de TV de Jean Laviron, 1965)
Comme au premier jour (curtmetratge d'Alain Lartigue, 1965)
Cécilia, médecin de campagne (sèrie de TV d'André Michel, 1966)