Als seit frühester Jugend begeisterter Baseballspieler entschied Olmos sich im Alter von 13 Jahren für eine Karriere als Rocksänger. In den 1960er und 1970er Jahren hatte er damit beachtlichen Erfolg bei Auftritten in Clubs auf dem Sunset Strip in Los Angeles. Für seine Hauptrolle in dem Broadway-Stück Zoot Suit erhielt er 1978 den Tony Award. Ein Freund riet ihm dann, ins Schauspielfach zu wechseln. Seine wohl bekanntesten Rollen sind „Gaff“ in dem Kultfilm Blade Runner und „Lt. Castillo“’ in der Fernsehserie Miami Vice. 1989 wurde er als bester männlicher Hauptdarsteller in Stand and Deliver für den Oscar nominiert. Den Golden Globe Award gewann er zweimal als bester Nebendarsteller in einer Serie, Mini-Serie oder TV-Film, 1986 für Miami Vice und 1995 für Flammen des Widerstandes. Für seine Rolle im Filmdrama Selena – Ein amerikanischer Traum gewann er den American Latino Media Arts Award und den Lone Star Film & Television Award. 2016 erhielt er im Rahmen der Satellite Awards 2016 für sein Lebenswerk den Mary Pickford Award.
Zwischen 2003 und 2009 spielte er „Commander/Admiral William ‘Bill’ Adama“ in der Science-Fiction-Serie Battlestar Galactica. Danach war er unter anderem als Gast in der Serie CSI: NY und 2011 in The Green Hornet zu sehen. Ebenfalls 2011 verkörperte Olmos Professor Gellar in den ersten zehn Folgen der sechsten Staffel von Dexter. Olmos spielt in dem Sequel Blade Runner 2049 wiederum den gealterten „Gaff“.[1]
Olmos gab 1985 mit der Inszenierung einer Folge der Serie Miami Vice sein Regiedebüt. 1992 drehte er mit Das Gesetz der Gewalt seinen ersten Spielfilm. Er zeichnete auch für die Produktion und die Hauptrolle verantwortlich. Weitere Regiearbeiten folgten in den 2000er Jahren. Neben einigen Episoden von Battlestar Galactica drehte er den 2006 veröffentlichten Fernsehfilm Walkout – Aufstand in L. A. sowie Battlestar Galactica: The Plan. 2019 folgte der Thriller The Devil Has a Name.
Geprägt durch seine von Armut und Gewalt gekennzeichnete Jugend in East Los Angeles engagiert sich Olmos als UNICEF-Botschafter massiv in der Jugendarbeit und für die Rechte von Kindern.
Olmos ist seit 2002 mit der 31 Jahre jüngeren Lymari Nadal verheiratet. Zwischen 1994 und 2002 war er mit der Schauspielerin Lorraine Bracco in zweiter Ehe verheiratet. Aus seiner ersten von 1971 bis 1992 bestehenden Ehe hat er zwei Kinder, Bodie und Mico Olmos.
