Karjalainen ble juniorverdensmester i 1998 og satte samtidig juniorverdensrekord med 78,33 meter.
Karjalainen var i finalen under VM 1999 og kom på ellevteplass. En plass høyere kom han i VM 2001. Han var også med under OL 2004 i Athen, men han kvalifiserte seg ikke til finalen.
Han ble opprinnelig nummer fem i VM på hjemmebane i 2005, men to av medaljevinnerne er i ettertid blitt diskvalifisert for doping slik at Karjalainen rykket fram til bronseplass. Året etter tok han sin andre mesterskapsmedalje under EM 2006 i Göteborg. Han kastet 80,84 og tok sølv. I VM 2007 i Osaka ble han nummer ni, og året etter ble han sjettemann i OL i Beijing.
