In 1979 was hij een van de oprichters van de band Circle Jerks. Hij is altijd lid van de band geweest. Tot op heden is hij gitarist.
Bad Religion
Na het derde album van Circle Jerks hield de band een tweejarige stop. In deze jaren besloot Greg lid te worden van Bad Religion. Ook toen Circle Jerks verderging met het opnemen van albums bleef hij lid van Bad Religion. In 2013 verliet Greg Bad Religion en werd vervangen door Mike Dimkich.