בן שמעון גדל במחלקת הנוער של קבוצת הפועל אשדוד ושיחק עונה אחת בקבוצה הבוגרת של המועדון, ולאחר מכן עבר למכבי יבנה בה שיחק במשך רוב הקריירה. קבוצתו האחרונה הייתה במכבי עירוני אשדוד, בה שיחק כחצי עונה.
כמאמן החל את דרכו באימון קבוצת הנוער של מכבי עירוני אשדוד בעונת 1997/1998 כשהעפיל עם הקבוצה לליגה הלאומית (כיום ליגת העל לנוער). והמשיך בה עונה וחצי נוספות.
בעונת 1999/2000 החליף את ניסים בכר באמצע העונה כמאמן מ.ס. אשדוד, והצליח להשאיר את הקבוצה בליגת העל. בהמשך אימן לתקופה קצרה בליגת הלאומית את הפועל כפר סבא לאחר שנקלעה לסכנת ירידה והצליח להשאיר אותה בליגה, ולאחר מכן אימן את עירוני ראשון לציון.
בעונת 2007/2008 עבר לאמן את קבוצת האוהדים החדשה הפועל קטמון ירושלים מליגה א' דרום, אף שהוצעו לו חוזים בקבוצות מליגות יותר גבוהות. למרות הכישלון של קטמון לעלות לליגה הארצית, הושאר בן שמעון לעונה נוספת, אך פוטר 3 מחזורים לאחר תחילתה.
ביולי 2009 מונה בן שמעון למנהל מקצועי של מחלקת הנוער במועדון ספורט אשדוד, תפקיד אותו מילא שנה אחת.
בפברואר 2013 מונה בן שמעון לתפקיד מאמן הכח עמידר רמת גן, ובתום העונה סיים את תפקידו.
בן שמעון נשוי ואב לשישה ילדים (שלוש בנות ושלושה בנים). בניו רן ואמיר בן שמעון הם כדורגלנים.