Tänav on nime saanud 1882. aastal. Tõenäoliselt on Jakobi tänav nime saanud majaomanik Mart Jakobi järgi. Eesti keeles on tänavat nimetatud ka Jaagupi tänavaks[2] (1884), tänava saksakeelne nimi oli Jakobstrasse, venekeelne Яковская улица.[3]
Jakobi tänav 21 asus algne arhitekt Karl Tarvas (Treumann)i projekteeritud Tallinna tuletõrje Ida divisjoni tuletõrjehoone, mis valmis 1940. aastal.