1972-ben a McLaren csapattal debütált a Formula–1-ben az amerikai nagydíjon, Watkins Glenben, ahol az időmérő edzésen a nyolcadik rajtkockát szerezte meg, majd a futamon a harmadik helyre hozta fel az autót, de az megpördült, visszaesett a mezőnyben, és végül kilencedikként ért célba. Azonnal magára vonta a figyelmet, és a következő évben tovább folytatta a fejlődést. Megnyerte a Formula–5000-es bajnokságot valamint ötször versenyezhetett a Formula–1-ben, szintén a McLarennél.
Harmadik Formula–1-es nagydíján, Franciaországban majdnem megnyerte a futamot, csakhogy ütközött Emerson Fittipaldival. Következő versenyén, a brit nagydíjon, Scheckter nagy balesetet okozott, aminek következtében tizenegy autó volt kénytelen feladni a futamot, az eset pedig sokféleképpen összegezte korai pályafutását. McLaren M23-asa az Amerikai és a kanadai nagydíjon a nullás rajtszámot viselte, így Scheckter egyike a két Formula–1-es pilótának, aki e szám alatt versenyzett. A másik Damon Hill volt 1994-ben.
A Tyrrell az 1974-es szezonra leszerződtette első számú versenyzőjévé. Két nagydíjat nyert, kétszer lett második illetve harmadik. Az egyéni bajnokságban a harmadik helyen végzett. Nyolc egymást követő futamon pontot szerzett. Az 1975-ös évad nem úgy sikerült, mint ahogy kellett volna, de ő lett az egyetlen dél-afrikai, aki megnyerte a dél-afrikai nagydíjat. 1976-ban szintén harmadikként végzett a pontversenyben. Egyetlen futamgyőzelmét Svédországban szerezte, melyet már másodszorra nyert meg. A szezon során a Tyrrel bevezette a legradikálisabb autót a Formula–1 történetében, a hatkerekű Tyrrell P34-est. Scheckter ezzel szerezte egyetlen futamgyőzelmét az évadban, az anderstorpi pályán, Svédországban. Az autóval tizenkét alkalommal állt rajthoz, és tízszer pontot is szerzett vele. Az kelet-amerikai nagydíjon hosszú csatát vívott az első helyért barátjával, James Hunttal.
1977-ben Scheckter elhagyta a Tyrrelt, és Walter Wolf új csapatához igazolt, melyet első versenyükön győzelemhez vezetett. Ezen kívül még kétszer nyert az évben a csapatnak. Általában vagy dobogón végzett, vagy kiesett, de másodikként végzett a domináns Niki Lauda mögött. 1978-ban csak a hetedik helyet tudta megszerezni, az év végén pedig a Ferrarihoz szerződött, Gilles Villeneuve csapattársaként. Az 1979-es évadban három futamgyőzelmet aratott, három alkalommal lett második illetve további hat pontszerző helyet ért el, mellyel megnyerte a versenyzői bajnokságot. Következő évi címvédése nem sikerült, ugyanis rosszul teljesítette a futamokat, egy alkalommal nem is tudta kvalifikálni magát, és mindössze egyszer kapott pontot egy ötödik helyezésre.
A Formula–1 után
Scheckter 1981-től visszavonult a sportágtól. Visszavonulása után saját vállalkozást alapított FATS Inc néven, mely katonai lőfegyver-szimulátorok építésével foglalkozott. Eladása után két fia, Tomas és Toby autóversenyzői pályafutását segítette. Tomas az Indy Racing League-ban autózott, és a 2003-as indianapolisi 500-on pole-pozícióból indulhatott. Jody Scheckter testvére, Ian néhány évig szintén szerepelt a Formula–1-ben.
2004-ben újraegyesült a világbajnok Ferrarival a dél-afrikai kétüléses F1x2 Charity Nagydíjon, Kyalamiban. Scheckter az 1999-es San Marinó-i nagydíj alatt a brit ITV vendégkommentátora volt Martin Brundle helyett. Scheckter nemrég megvett egy hampshire-i farmot, ahol biogazdálkodással foglalkozik, és ebben a témában szerepelt 2005-ben egy dokumentumfilm-sorozatban.