Jego debiutem na międzynarodowej imprezie był start na igrzyskach olimpijskich w Oslo w 1952. Po pierwszej kolejce znajdował się na trzecim miejscu, za dwoma Norwegami: Arnfinnem Bergmannem i Torbjørnem Falkangerem, jednak po słabszym skoku w drugiej serii spadł na siódme miejsce. Cztery lata później, podczas igrzysk olimpijskich w Cortinie d’Ampezzo wywalczył złoty medal, zostając tym samym pierwszym mistrzem olimpijskim w skokach nie pochodzącym z Norwegii. Po pierwszej serii, tak jak w Oslo był trzeci po pierwszej serii za Harrym Glaßem oraz Aulisem Kallakorpim, ale w drugiej kolejce Hyvärinen oddał najdłuższy skok konkursu (84,0 m), co pozwoliło mu wyprzedzić wszystkich rywali. W 1956 roku połączono dwie najważniejsze imprezy – mistrzostwa świata z igrzyskami olimpijskimi, więc Antti wygrywając w Cortinie d’Ampezzo zdobył jednocześnie także tytuł mistrza świata.