Jest wychowankiem belgradzkiego FK Partizan[2]. W latach 2011–2012 grał w FK Teleoptik, jego klubie satelickim[2]. W 2012 powrócił do Partizana[2]. W rozgrywkach Super liga Srbije zadebiutował 18 sierpnia 2012 w przegranym 1:2 meczu z FK Donji Srem[3]. Do gry wszedł w 63. minucie, zastępując Stefana Šćepovicia[4]. W 78. minucie zaliczył asystę przy golu Sašy Markovicia[4]. Pierwszego gola w lidze zdobył natomiast 26 sierpnia 2012 w wygranym 1:0 spotkaniu z FK Jagodina[3]. Ogółem w sezonie 2012/2013 w 25 meczach ligowych zdobył trzy bramki oraz został wraz z klubem mistrzem kraju[3][5]. Sezon 2013/2014 rozpoczął od strzelenia trzech goli w trzech meczach ligowych[3], po czym 30 sierpnia 2013 odszedł za około 5 milionów euro do belgijskiego RSC Anderlecht[2]. W Eerste klasse zagrał po raz pierwszy 1 września 2013 – miało to miejsce w przegranym 3:4 meczu przeciwko SV Zulte Waregem[6]. Na boisku pojawił się w 46. minucie, wchodząc za Massimo Bruno[7]. Zanotował asysty przy golach Matíasa Suáreza i Demy de Zeeuwa[7]. 14 września 2013 przeciwko KV Mechelen (5:0 dla Anderlechtu) zdobył dwa pierwsze gole w lidze[6]. Łącznie w sezonie 2013/2014 w lidze belgijskiej zagrał w 32 meczach i zdobył 16 goli[6] oraz został mistrzem kraju[5]. W sezonie 2014/2015 w 37 meczach w lidze strzelił 20 goli[6], dzięki czemu został królem strzelców Eerste klasse[5]. 21 lipca 2015 został piłkarzem angielskiego Newcastle United F.C., a kwota transferu wyniosła w przybliżeniu 18,5 miliona euro[2]. W Premier League zadebiutował 9 sierpnia 2015 w zremisowanym 2:2 spotkaniu z Southampton F.C.[8] Grał w nim od 75. minuty po zmianie Papissa Cissé[9]. Na pierwsze trafienie w lidze czekał do 3 października 2015, kiedy to Newcastle przegrało 1:5 z Manchesterem City[8]. Sezon 2015/2016 zakończył w Premier League z bilansem 34 mecze, 9 goli[8]. W sezonie 2016/2017 Mitrović wraz z Newcastle występował w Championship. Od 31 stycznia do 31 maja 2018 przebywał na wypożyczeniu w londyńskim Fulham F.C., strzelając w tym czasie 12 bramek w 17 spotkaniach[10]. 30 lipca 2018 został wykupiony przez ten klub[2]. 19 sierpnia 2023 odszedł do Al-Hilal[11], podpisując trzyletni kontrakt.
Od dziecka jest fanem Newcastle United, którym zainteresował się przy okazji jego meczu z FK Partizan[15]. W 2016 na świat przyszedł jego syn Luka[16].