Herbert speelt soloconcerten, maar heeft ook enkele duo's (met David Tronzo en Carol Robinson) en een trio (met Chris Culpo en Jean-Charles Richard). Hij speelt ook samen met Arabische muzikanten, zoals Marcel Khalife en Simon Shaheen. Hij heeft veel gecomponeerd voor Europese orkesten, ensembles en koren, maar tevens voor avant-garde-theatergezelschappen en voor films. Herbert heeft verschillende albums als (co-)leider opgenomen en meegspeeld op meer dan 120 platen. In 1999 richtte hij een eigen netlabel op, Aziza Music.
Discografie (selectie)
B-A-C-H: A Chromatic Universe, Between the Lines, 2001 ('albumpick' Allmusic.com)