Tudományos kiképeztetésére kiváló gondot fordítottak, s a gyermek László nagy reményekre jogosító szorgalommal tanult, úgyhogy ritkaságként, 1835-ben, tehát 19 éves korában már elvégezte az egyetemet, és nemsokára Somssich Pongrác személynök mellé táblai jegyzővé eskették fel. 1835. október 20-ikán Sáros vármegye tiszteletbeli aljegyzőjévé választották, s ekkor egy évig az eperjesi kerületi táblánál gyakornokoskodott. Ezután a Gömör vármegyei tisztújítások alkalmával felmerült törvényellenességek megfékezésére kiküldött Szerencsy István királyi biztos mellett működött hónapokon keresztül. 1837-ben a királyi udvari kancelláriához került. 1839-ben „Verőce vármegye karai és rendei” követté választották, és csakhamar a Dunántúli kerületben országos megbízatásban is részesült. 1842-ben Verőce vármegye alispáni állásába helyezték, amelyet 1848-ig töltött be, mert ekkor István főherceg Verőce vármegye főispánjává nevezte ki. A Bach-korszakban lemondott állami hivataláról. 1860-ban Somogy vármegye főispánjává lett, mely tisztség alól magyar gondolkozásmódja miatt a bécsi udvar 1861-ben felmentette. 1865-ben az uralkodó újra Somogy vármegye főispánjává nevezte ki. 1885. október 3-án a király „a kilenc ágú koronával díszítette fel”,[3] azaz elnyerte a grófi rangot és egyben az örökös főrendi tagságot.
A Zala, Varasd és Kőrös vármegyék között nyolcvan éven át elintézetlen határkérdés Jankovich kormánybiztossága alatt oldódott meg, és ebbeli működése 1868-ban királyi elismerésben részesült. A Dráva szabályozásának ügyében szintén kormánybiztosként húsz évnél tovább működött, és 1885-ben hosszabb utakat tett a Dráva hajózhatóságának vizsgálata ügyében. Összesen 26 évig, haláláig Somogy vármegyei főispánként szolgált.
1847 és 1897 között a Balaton Szabályozási Egylet elnöki tisztét is betöltötte.
Házassága és leszármazottjai
Feleségül vette Ádándon1849. október 3-án a jómódú nemesi származású vizeki Tallián családból való vizeki Tallián Rozáliát (Ádánd, 1823. március 6. – Szőlősgyörök, 1890. szeptember 6.), akinek a szülei vizeki Tallián Boldizsár (1781-1834) császári és királyi kamarás, Somogy vármegye alispánja, táblabíró, földbirtokos,[5][6]
és zalabéri Horváth Ida (1798-1875) voltak. Az apai nagyszülei vizeki Tallián Antal (1751–1820), királyi tanácsos, táblabíró, aranysarkantyús vitéz, földbirtokos, és dunaszekcsői Bésán Júlianna (1760–1819) voltak. Az anyai nagyszülei zalabéri Horváth Imre (1771–1820), császári és királyi kamarás, huszár főhadnagy, földbirtokos és báró dévai Dévay Mária (1774–1830) voltak. A vizeki Tallián családnak a birtokállományának a jelentősebb része, pedig az ősrégi és előkelő dunántúli kihalt osztopáni Perneszy családtól való volt, akikből vette származását; Jankovich Józsefné Tallián Matild ősanyja vizeki Tallián Gergely soproni harmincadosné osztopáni Perneszy Anna Julianna (fl. 1657–1715), akinek a szülei osztopáni Perneszy István (fl.1647–1663), a zalalövői vár főkapitánya, zalai és somogyi földbirtokos valamint nyéki Rauch Zsuzsanna (fl. 1657) voltak.
Jankovich László gróf és vizeki Tallián Róza frigyéből született: