Jimmy McIlroy Lambegben született, Észak-Írországban. Fiatal korában futballozni kezdett, miután édesapja és nagybátyja is űzték a sportágat.[3] Pályafutását a Glentoran csapatában kezdte, majd tanulmányai befejezését követően, 1950 márciusában a Burnley csapatához igazolt, akik 7000 fontot fizettek érte.[3] Hamar alapembere lett a csapatnak, csapattársai csak "Agy"-nak becézték, miután ő volt a csapat játékának a szervezője, irányítója.[3] Az 1959-1960-as szezonban bajnoki címet nyert, míg 1962-ben bejutott csapatával az FA-kupa döntőjébe, ahol 3–1 arányban alulmaradtak a Tottenhammel szemben. A Burnley színeiben 497 mérkőzést játszott és 131 gólt szerzett, tizenkét évben át volt a klub játékosa. 1962-ben 25 000 fontért vette meg a Stoke City, ami sokkolta a Burnley szurkolóit, akik ezért elmebetegnek bélyegezték a klub igazgatóját, Bob Lordot.[3]
Stoke City
McIlroy a Stoke City-ben olyan játékosokkal szerepelt egy csapatban, mint Stanley Matthews, Dennis Viollet, Jackie Mudie és Don Ratcliffe.[3] Első mérkőzése nem sikerült jól új csapatában, a Stoke 6-0-s vereséget szenvedett a Norwich City csapatától.[3] Az 1962–1963-as szezonban végül megnyerte csapatával a másodosztályú bajnokságot,[3] a következő szezonban pedig 12 góllal segítette a Stoke-ot az élvonalban, valamint bejutottak az 1964-es Ligakupa-döntőbe, de ott a Leicester City 4–3 arányban jobbnak bizonyult.[3] 1965 decemberében az Oldham Athletichez szerződött, ahol játékosként és edzőként is tevékenykedett.[3]
Oldham Athletic
1966 januárjában még aktív játékosként vette át az akkor harmadosztályú Oldham irányítását. Itt több korábbi csapattársával, így Bill Aspreyvel, Alan Philpottal, George Kinnellel és Keith Bebbingtonnal is együtt dolgozott.[3] Az 1968-69-es szezon kezdetén, egy Luton Town elleni 4–0-s vereséget követően mondott le. 1970-ben rövid ideig a Bolton Wanderers vezetőedzője is volt, de két mérkőzést követően lemondott a posztjáról.[3]