Figlio di Francesco e discendente da una famiglia di musicisti: il fratello Francesco (nominato cavaliere il 2 gennaio 1752) era un violinista mentre il fratello Giacomo un contrabbassista. Giuseppe seguì studi di perfezionamento a Bologna, con padre Martini entrando poi nell'Accademia Filarmonica di quella città nel 1758.
La sua prima composizione come operista è datata al 1760, quando Colla si trovava in Germania e viene citato come autore di alcune arie dell'opera Caio Fabrizio di Niccolò Jommelli. Al suo ritorno in Italia fu chiamato a comporre la musica per Adriano in Siria di Metastasio al Ducale di Milano (31 dicembre 1762) e tornò definitivamente nella città natale dapprima con il ruolo di "maestro di musica di Sua Altezza Reale" (quindi a capo del Concerto Reale, cioè la musica privata di Corte) e in seguito di docente del principe ereditario. Per il Teatro Ducale di Parma scrisse nel 1766 Tigrane e per il teatrino di Colorno nel 1769 la pastorale Licida e Mopso in occasione dei festeggiamenti per il matrimonio del duca Ferdinando di Borbone con Maria Amalia d'Asburgo-Lorena.
La Bastardella (Lucrezia Agujari)
Gran parte del successo di Colla lo si deve al suo sodalizio, professionale e sentimentale, con la famosa virtuosa Lucrezia Agujari (detta La Bastardella) che inaugurò molte delle sue opere in Italia e all'estero e che egli sposò, dopo molti anni di convivenza, nel 1780 e dalla loro unione nacquero due figli: Francesco nel 1768 e Angela nel 1779. Già dal 1776 comunque, Colla aveva cessato di scrivere opere.
Caricatura di Giuseppe Colla con Lucrezia Agujari
Dopo la morte della moglie, nel 1783, continuò la sua attività al servizio della corte di Parma dedicandosi soprattutto alla musica sacra e strumentale, all'insegnamento e, dal 1790, alla direzione del Teatro Ducale, di cui divenne Maestro Concertatore.
