קיימות עדויות על נוכחות יהודית בשאלון-אן-שמפן כבר במאה השלישית, וידוע על קיום בית כנסת בעיר בשנת 1367 ברחוב רי דה לה ג'ורי (Rue de la Jüri). בנוסף לכך פעלה בעיר ישיבה של תלמידי רש"י ובעלי התוספות. במהלך מלחמת מאה השנים גורשו היהודים מהעיר, ורק לאחר מאות שנים, בעקבות המהפכה הצרפתית שבו יהודים להשתקע בה.
משהסתיימה מלחמת פרוסיה צרפת בשנת 1870, וחבל אלזס-לורן סופח לגרמניה, התיישבו באזור המוני יהודי אלזס שלא חפצו להיות לאזרחים גרמנים. מאוחר יותר באו לעיר יהודים ממרכז אירופה, ולבסוף, בשנת 1960, התיישבו בה יהודים מצפון אפריקה. ב-20 ביולי1942 נעצרו בעיר יהודים רבים וגורשו למחנות השמדה.
בעיר ישנו רחוב המכונה "הרובע היהודי הקטן" ורחוב נוסף בשם "רחוב היהודים", בסמיכות לרחוב רי לושט. כמו כן קיים בעיר מקווה עתיק, וכתבים יהודיים עתיקים בספריית העירייה. אין בית עלמין יהודי נפרד בעיר, לעומת זאת ישנה חלקה יהודית בבית הקברות במזרח העיר ברחוב קלרמן (rue Kellermann).
תיאור המבנה
בית הכנסת אשר תוכנן בידי האדריכל אלקסיס וגני בסגנון מורי, נחנך בספטמבר 1875. גרם מדרגות מוביל אל פתח הכניסה, שעשוי קשת פרסה שבטבורו זגוגית עם מגן דוד צבעוני. הקימור הפרסתי נתמך בשני עמודים מימינו ומשמאלו. השער עטוף כולו במסגרת מפוסלת של רצועות מפותלות. מימין ומשמאל לשער ישנם בכל צד שני חלונות עשויות גם הם קשת פרסה. בקומה השנייה של בית הכנסת, מעל השער, ניתן לראות שלישיית חלונות בעלי קשתות משוננים, הנשענות על ארבעת עמודים. מימין ומשמאל של השלישייה הזו, קיים חלון נוסף מכל צד עם קשת משוננת שנסמכים גם הם על שני עמודי תווך. ממעל לחלונות האמצעיים חרוט הפסוק "מה ידידות משכנותיך, ה' צבאות" מתהילים פ"ד.
התצורה המשולשת שבקומת הכניסה (פתח ראשי ושני חלונות מכל צד) חוזרת על עצמה במידת מה בקומה השלישית, בדמות חלונות-תאומים עם קשת מעוגלת, וחלון שושנה בשני צידיהם. החלונות הללו ממולאים בתחרת אבן בצורת מגן דוד. אקרוטריונים מעטרים את כל הגג, שמכותר באמצעו באבן לוחות הברית.
בשנת 1993 הוצב מצבת זיכרון בחזית בית הכנסת ומדי שנה נערך בה עצרת זיכרון למגורשים.