Eyeless in Gaza est formé en 1980 par le chanteur Martyn Bates et le musicien Peter Becker. Le nom du groupe est emprunté au roman La Paix des profondeurs (titre original : Eyeless in Gaza) d'Aldous Huxley[1],[2]. Ils réalisent deux EP, puis les albums Photographs as Memories et Caught in Flux, édités en 1981 par le label indépendant Cherry Red. Le duo se sépare en 1987. Martyn Bates continue sa carrière en solo[1], alors que Peter Becker rejoint le groupe In Embrace[3].
Le groupe se met temporairement en pause après le mariage de Becker et se délocalise en Espagne, tandis que Bates (à cette période marié à sa compagne de longue date et collaboratrice du groupe Elizabeth S.) se concentre sur une carrière en solo[4],[5],[6]. En 1990, Bates et Becker collaborent avec Anne Clark sur son album The Law is an Anagram of Wealth[7]. En 1991, Bates forme Hungry I avec le batteur Steve Dullahan[8],[2].
Ils reviennent en 1993 (avec Elizabeth S. comme membre à temps plein) pour l'album Fabulous Library et jouent occasionnellement en duo ou en trio. Bates enregistre aussi entre 1994 et 1998 avec M.J. Harris (Napalm Death/Scorn) sous le nom de Drift, et au début des années 2000 avec le claviériste Alan Trench dans Twelve Thousand Days[8].
En 2014, leurs premiers disques, sortis entre 1981 et 1982, sont réédités par Cherry Red dans un coffret comprenant des titres inédits[9]. En 2016, la compilation double CD Picture the Day: A Career Retrospective 1981–2016 et le huitième album d'Eyeless in Gaza, Sun Blues, sont publiés. Ce dernier reçoit une note de 4 sut 5 du magazine Mojo[10].