Mitić vant en olympisk sølvmedalje i fotball i Sommer-OL 1948 i London. Han var med på det jugoslaviske laget som kom på andreplass i fotballturneringen. Jugoslavia vant åttendedelsfinalen med 6-1 over Luxembourg og i kvartfinalen beseiret de Tyrkia med 3-1 samme resultat som de vant med i semifinalen over Storbritannia. Finalen tapte de med 1-3 til Sverige.
Fire år senere, i Sommer-OL 1952 i Helsingfors, vant han sin andre olympiske sølvmedalje. Etter å ha beseiret Tyskland med 3-1 i semifinalen, tapte Jugoslavia finalen til Ungarn med 0-2.
Mitić spilte 59 landskamper og scoret 32 mål for Jugoslavia i perioden 1946–57.