מהמאה ה-10 עד 1918 הייתה העיר בשטח ממלכת הונגריה. בשטח העיירה נבנה מבצר בצורת כוכב, נגד התקפות האימפריה העות'מאנית. העיירה התפתחה סביב המבצר, ומכאן שמה, שמשמעותו היא "טירתו החדשה של הארכיבישוף". בסוף המאה ה-16 ובאמצע המאה ה-17, עד 1685, שלטו הטורקים בנובה זמקי. עקב התקוממויות במאה ה-17 הרסו השליטים ההונגריים את העיירה בשנת 1724, כדי למנוע שימוש במבצרה בתור בסיס למרד.
בעיירה כנסייה ומנזר פרנציסקניים שנבנו בסגנון הבארוק המוקדם במאה ה-17 ושופצו במאה ה-18 ובסוף המאה ה-19. בעיירה לוח הנצחה ליהודי העיירה שנרצחו בשואה. בית הכנסת האורתודוקסי של נובה זמקי שופץ ב-1992 והיום הוא אתר היסטורי סלובקי, ואחד מבתי הכנסת הבודדים שעדיין משמשים קהילות יהודיות בסלובקיה למטרות דתיות.
יהודים ראשונים הגיעו לעיר בתחילת המאה ה-18, ייתכן והיו מספר שנים בהן לא היו יהודים באזור בעקבות האיסור על ישיבת יהודים בחבל המכרות שבמרכז סלובקיה. ראשוני הקהילה הממוסדת בעיר הגיעו באמצע המאה ה-19, רובם מהעיירה הסמוכה שוראני. היו בעיירה שתי קהילות יהודיות, נֵאולוגית ואורתודוקסית, והן החזיקו בין היתר בית ספר יסודי (נפרד לכל זרם) חטיבת ביניים נאולוגית, תלמוד תורה אורתודוקסי וישיבה. פעלו בה ארגונים ציוניים ויהודיים שונים וכן מפלגה יהודית שנציגיה נבחרו למועצת העיר.
בשנת 1930 היו בעיירה 2,535 יהודים, שהיוו כ-10% מתושבי העיירה.
השואה
לאחר החלוקה יהודי העיר היו תחת שלטון הונגרי ולא גרמני ועל כן לא חלו חוקי גזע נאצים במדינה. עם זאת, גם להונגריה היו מספר חוקים אנטישמיים שנועדו להביע אהדה לשלטון הנאצי. היהודים הורחקו ממשרות ציבוריות, הוטלו עליהם מגבלות כלכליות וגברים נשלחו לעבודות כפייה כחלק מהמאמץ המלחמתי. למרות זאת, בשלב זה לא נשקפה סכנה לחייהם של יהודי העיר וגם איום הגירושים לא חל עליהם, למעט יהודים שלא החזיקו באזרחות הונגרית שגורשו מהמדינה.
הצבא הגרמני כבש את הונגריה במרס 1944. בתחילת אפריל נערך מפקד בעיר והקהילה האורתודוקסית מנתה 1,144 יהודים והנאולוגית 964. בראשית מאי הוקמה בעיר מועצה יהודית בראשותם של ינוש ברנפלד וליאו הורבט. פעולתם הראשונה הייתה העברת היהודים לגטו בשבוע בין ה-7 ל-12 במאי, כל משפחה קיבלה חדר אחד. בנוסף הקימו בגטו בית חולים כללי, בית חולים למחלות מידבקות ובית יולדות, שירות סדר יהודי ומכבי אש. בראשית יוני פונו כל יהודי הגטו אל מרכז השילוחים בעיר יחד עם יהודים נוספים מהמחוז. משם יצאו שני משלוחים, ב-11 וב-14 ביוני, שמנו 4,843 יהודים שהגיעו כולם לאושוויץ.