Il fait ses études à l'université de Lund et obtient son doctorat en 1826. En 1827-1828, il entreprend un voyage en Asie du Sud-Est. Il obtient un deuxième titre de docteur, en médecine cette fois, en 1830.
Il publie Svenska Fåglarna (1856-1887) dans lequel il décrit 238 espèces d'oiseaux observées en Suède. Il détermine également de nombreux oiseaux collectés dans le sud de l'Afrique par Johan August Wahlberg.
Il est l'auteur de deux mémoires sur les araignées de Suède et a décrit plusieurs nouveaux genres et espèces.
Sundevall est l’abréviation habituelle de Carl Jakob Sundevall en zoologie.