מרדכי החל את דרכו בכדורגל במחלקת הנוער של מכבי חיפה. ב-1983, בגיל 15 בלבד, החל לשחק בקבוצת הנוער העליונה של המועדון. מרדכי שיחק בקבוצה במשך שלוש עונות, בהן היה השחקן המוביל של הקבוצה, וזכה פעמיים בתואר מלך השערים של ליגת הנוער הבכירה. הוא אף זכה עם הקבוצה באליפות ליגת הנוער ב-1985. בסך הכל כבש מרדכי 31 שערים במסגרת קבוצת הנוער.
באוקטובר 1986 ערך מרדכי את הופעת הבכורה שלו בקבוצה הבוגרת של מכבי חיפה, מול שמשון תל אביב, אך מיעט לקבל דקות משחק במדי הקבוצה הבוגרת. עם זאת, הוא שותף במשחק הגמר גביע המדינה באותה עונה, שבו הפסידה חיפה למכבי תל אביב. בעקבות מיעוט ההופעות שלו בקבוצה והקשיים שנגרמו לו לאחר גיוסו לצה"ל, הוא עמד בפני פרישה ממשחק, אך חזר בו לבסוף.
בעונת 1988/1989 זכה מרדכי עם מכבי חיפה באליפות הראשונה שלו. עם זאת, ועל אף שהקבוצה שיחקה באותה עונה תחת המאמן החדש אמציה לבקוביץ', מרדכי שותף 15 פעמים בלבד בליגה וכבש שני שערים. מיעוט דקות המשחק שלו נבע בעיקר מהימצאותם בסגל של מספר חלוצים בכירים ממנו, ובהם עופר מזרחי וכוכב הקבוצה זאהי ארמלי. העונה שלאחר מכן נפתחה בצורה טובה עבור מרדכי, אך ככל שהתקדמה הוא איבד את מעמדו בקבוצה.
תחת המאמן שלמה שרף, הפך מרדכי לאחד מהחלוצים המובילים של הקבוצה בעונת 1990/1991. הוא כבש תשעה שערי ליגה, וסייע לקבוצתו לזכות בדאבל. הוא אף כבש ארבעה שערים במשחק מול מכבי תל אביב באותה עונה, בו ניצחה חיפה 5–1. הוא המשיך להצטיין גם בעונה הבאה, 1991/1992, אך לא הצליח עם חיפה מבחינה קבוצתית ולא זכה עמה באף תואר. בקיץ שלאחר אותה עונה עבר מרדכי לקבוצת הפועל חיפה, בשל חילוקי דעות שהיו לו עם מכבי חיפה בנוגע לכספים. לאחר מכן עבר להפועל בית שאן, ובשנת 1996 פרש ממשחק פעיל.
קריירה כמאמן
לאחר פרישתו ממשחק, הפך מרדכי למאמן קבוצות בגילאים השונים במחלקת הנוער של מכבי חיפה. ב-2007 הוא מונה למאמן קבוצת הנוער של המועדון[1], והוביל אותה לשתי זכיות רצופות באליפות ליגת הנוער בעונות 2008/2009 ו-2009/2010.
בקיץ 2013 מונה למנהל המקצועי במחלקת הנוער של הפועל תל אביב. ביוני 2014 פוטר מתפקידו.
ביוני 2015 מונה בשנית למאמן קבוצת הנוער של מכבי חיפה ובתום העונה זכתה הקבוצה בהדרכתו באליפות המדינה. ביולי 2016, לאחר פיטוריו של מאמן הקבוצה הבוגרת רוני לוי, הדריך מרדכי את הקבוצה עד למינוי המאמן החדש ביחד עם המנהל המקצועי של מחלקות הנוער, שמוליק חנין. בדצמבר 2017 החל במקביל לשמש כעוזר מאמן בקבוצה הבוגרת.
