Хорст Немец начал карьеру в августе 1950 года за футбольный клуб «Рудольфсхаймер»; в сезоне 1957/58 дебютировал за венскую «Аустрию». Спустя менее чем два года Немец уже играл в основе сборной Австрии. Первую игру за сборную Немец проводил против сборной Норвегии, в рамках второго отборочного этапа к финальной части чемпионата Европы 1960; команда выиграла со счётом 5:2, а Немец забил один из голов. В 1/4 финала Немец открыл счёт в матче против хозяев турнира — французов, однако Австрия проиграла 2:4 и не прошла дальше.
Лучшую игру на международной арене Хорст Немец провёл против сборной Чехословакии 24 апреля 1963 года, когда сборная Австрии обыграла чехословаков 3:1, а Немец сделал хет-трик. Хорст Немец трижды становился лучшим бомбардиром австрийской лиги. Из «Аустрии» Немец ушёл в 1966 году, свой последний 146-й гол в 220 играх чемпионата Австрии нападающий забил в 1968 году, выступая за «Фёрст».
Умер в 1984 году в Вене, похоронен на кладбище Баумгартен.