Veselinović vant en olympisk sølvmedalje i fotball under Sommer-OL 1956 i Melbourne. Han var med på det jugoslaviske laget som kom på andreplass i fotballturneringen bak Sovjetunionen. Jugoslavia vant kvartfinalen med 9-1 over USA og i semifinalen beseiret de India med 6-0. Finalen tapte de med 0-1 til Sovjetunionen. Veselinović spilte tre kamper og scoret fire mål i turneringen.
Veselinović spilte trettisju landskamper og scoret tjueåtte mål for Jugoslavia i perioden 1953–1961.