בתום עונת 1964/1965 העפילה הקבוצה (עם המאמן-שחקן רחביה רוזנבוים) לליגה א' (הליגה השנייה) מהמקום הראשון, לאחר קרב צמרת עיקש שהסתיים רק במחזור האחרון בניצחון ביתי 2–1 לעיני 5000 צופים מול מכבי רמת גן.[3] בתום עונת 1966/1968 ירדה הקבוצה בחזרה לליגה ב'[4]
במשך שנים רבות שימש המועדון כקבוצה בת של הפועל תל אביב, לעיתים אף סבל מחוסר תקצוב הולם. והעימותים עם מועצת הפועלים הפכו אלימים.[5]
בתום עונת 1988/1989 העפילה הקבוצה מהמקום הראשון לליגה א', שכבר הפכה לליגה השלישית[6]
בתום עונת 1994/1995 העפילה הקבוצה לליגה הארצית, בה שיחקה במשך עונה אחת וירדה מהמקום האחרון בחזרה לליגה א'.
בעונת 2006/2007 סיימה הקבוצה במקום השני בליגה א' (שבאותה העת הייתה הליגה הרביעית), אך העפילה לליגה ארצית עקב פירוקה של הפועל מקסים לוד. בסיום בעונת 2007/2008 נשרה בחזרה לליגה א'.
בתחילתה של עונת 2009/2010 (בה שבה ליגה א' להיות הליגה השלישית), וכחלק ממטרת הקבוצה לעלות לליגה הלאומית, הוחתמו בקבוצה שחקנים עם עבר בליגות הבכירות בישראל, כמו דודי ליברמן ואייל בן עמי.
במהלך עונת 2019/2020 עלתה לליגה הלאומית לאחר שמשחקי ליגה א' נקטעו כשהליגה עדיין לא הושלמה, בעקבות מגפת הקורונה.[7] בעונה שלאחר מכן שבה לליגה א' לאחר שסיימה במקום האחרון בליגה הלאומית.
בעקבות הקרבה הפיזית בין שכונת התקווה לשכונת כפר שלם וכן גם בעקבות הצבעים הזהים של שני המועדונים, כתום ושחור, מרבית מאוהדיה ואנשיה של הפועל כפר שלם אוהדים גם את בני יהודה תל אביב. אף על פי שבני יהודה וכפר שלם מעולם לא נפגשו במסגרת רשמית עד לעונת 2023/2024, קיימו השתיים מספר משחקי ידידות לאורך השנים.
קבוצת הנוער של הקבוצה סיימה את עונת 2022/2023 במקום השני בליגה הארצית לנוער, והעפילה לליגה הלאומית לנוער.
הקבוצה הבוגרת סיימה את עונת 2022-2023 במקום השני בליגת א' דרום. כאשר במשחקי הפלייאוף גברה מ.ס דימונה בחצי הגמר והפועל הרצליה עירוני. במשחק גמר המחוזות ניצחה את מ.ס כפר קנא בדרך להתמודדות על העלייה לליגה הלאומית.[8] בסופו של דבר כפר שלם הפסידה במשחק העפלה 2-1 לנוף הגליל, ונשארה בליגה א' דרום.[9]
נכון לתחילת עונת 2023-2024 מאמן הקבוצה הוא נועם שוהם, כדורגלן עבר במכבי תל אביב.[10] בסיום עונת 2023/2024 העפילה הקבוצה בחזרה לליגה הלאומית.
