Рођен као потомак угледне трговачке породице Бабадудић. Родитељи Ђорђе Авакумовић (раније Јеремић) и Катарина рођ. Јовановић - кћерка Баба-Дудина, имали су троје деце: Јована, Анку и Јелену. Отац Ђорђе Авакумовић угледни бакалин, имао је дућан са цариградском робом "Код Кошнице", на углу улица Кнеза Михајла и Краља Петра. Син Јован завршио је права на лицеју у Београду, а затим студирао правне и државне науке (1862—1868) у Хајделбергу - Немачкој, Паризу - Француској и Швајцарској.[1] Био је члан и вођа Либералне странке.
Године 1873. именован је првим секретаром Касационог суда, затим је од 1875) прво био управник града Београда, а потом начелник полицијског одељења Министарства унутрашњих дела у либералској влади Стевче Михаиловића до 1880. године. Те године накратко постаје министар правде у кабинету Јована Ристића, али већ октобра исте године влада пада и замењује је напредњачка под Миланом Пироћанцем. У следећем периоду (1881—1887. година) је судија Касационог суда. Накратко је министар правде 1887. године у коалиционој либералско-радикалској влади, али испада из ње крајем године када радикали сами формирају кабинет. Будући да је неприкосновени шеф либерала Ристић намесник у периоду 1889—1892. године и да је замрзао статус у либералној странци, то је Авакумовић постао оперативни шеф странке и предводник опозиције. Либерали тада покушавају да владајуће радикале туку на радикалски начин – јаком демагогијом.
Када намесништво обара радикалску владу, Авакумовић 9. августа1892. године постаје председник владе и министар иностраних дела. У влади доминира млађе крило либерала. Све акције владе усмерене су на парламентарне изборе заказане за 25. фебруар1893. године. После жестоке борбе, у којој је влада користила сумњиве методе, резултат је нерешен, а политичку кризу разрешава млади Александар Обреновић, који преузима краљевске прерогативе, отпушта Авакумовићеву владу и мандат даје радикалима. Било је то 1. априла 1893. године. Радикална већина у скупштини је организовала политичко суђење Авакумовићу и неким члановима његове владе, али је их је краљ амнестирао пре пресуде.
Током Првог светског рата, 1915. године, аустроугарске окупационе снаге су га заробиле у Варадину[2] и интернирале у логор Цеглед у Мађарској, а затим у Хицинг у Аустрији, у коме је дочекао крај рата. Британски лист Тајмс је погрешно обавештен, фебруара 1917. године писао да је Авакумовић умро. По повратку из заробљеништва он се повлачи из политике.
Авакумовић је био један од најпознатијих и најбољих адвоката у Београду, посебно из области кривичног права. Написао је већи број стручних радова, а његова најважнија дела су Теорија казненог права (1887—1891), као и Нужна одбрана, Важност кривичног закона, Француска и енглеска порота, Промена валуте и противправни послови. Становао је у (једној од две тада постојеће куће)[3] данашњој Кнез Михајловој улици, између Калемегдана и хотела "Руски цар". Та кућа је касније (након Првог светског рата) срушена а на њеном месту подигнута нова - завештана Академији наука. Прво је од 27. фебруара 1882. године изабран за редовног члана Српског ученог друштва у Београду. Авакумовић је постао редовни члан Српске краљевске академије 15. новембра 1892., а проглашен 3. априла 1894. године. Штампао је своју приступну академску беседу: "О старој српској пороти". Оставио је иза себе необјављене четворотомне мемоаре.[4]
Преминуо је у Рогашкој Слатини у данашњој Словенији 3. августа 1928. године, током летовања, и сахрањен је у Београду, на Новом гробљу.[5] У браку са Милевом, имао је једну кћерку Љубицу.[6] Кћерка је основала при Академији "Задужбину Породице Авакумовић".
