את לימודיו הגבוהים עשה באוניברסיטה העברית בירושלים לתואר ראשון בכלכלה וסוציולוגיה ובהמשך לתואר שני בבית הספר למינהל עסקים. חרמש החל בלימודי הדוקטורט בהיסטוריה של עם ישראל בעת החדשה באוניברסיטת תל אביב, אך הפסיקם כשהתמנה בשלהי שנת 1987 לתפקיד ראש המועצה האזורית שער הנגב, וליו"ר הוועד המנהל של מכללת הנגב. כראש מועצה הוא נאבק למען הקמת גדר הפרדה ומכשול סביב רצועת עזה[3] ולמען נסיגה מרצועת עזה[4].
חרמש התמודד בבחירות המקדימות במפלגת העבודה לקראת הבחירות לכנסת הארבע עשרה בשנת 1996 על מקום משוריין לנציגי מגזר הקיבוצים והגיע רביעי מתוך חמישה עם 5,797 קולות ושובץ במקום לא ריאלי ברשימת מפלגת העבודה לכנסת ה-14.
בטרם פרוץ האינתיפאדה בשנת 2000, קידם תוכניות פיתוח אזוריות משותפות עם הפלסטינים ברצועת עזה, ובהן: הקמת פארק תעשייה על גבול הרצועה, ניצול משותף של מי ביוב מושבים ותוכניות להכשרת כח אדם מקצועי עבור הרשות הפלסטינית במסגרת קורסים שהתקיימו במכללה ובעזה בהם נטלו חלק מאות צעירים פלסטינים.
חרמש מוקם במקום ה-30 ברשימת מפלגת קדימה בבחירות לכנסת ה-17 בתחילת 2006, וקדימה זכתה ב-29 מנדטים. כשבועיים לאחר הבחירות, התפטר אוריאל רייכמן מהכנסת וחרמש נכנס במקומו לכנסת. כיהן בכנסת בעיקר כחבר ועדת הכספים. במהלך כהונתו הוא נאבק למען הקמת חדרים ממוגנים על חשבון המדינה ביישובי עוטף עזה[3].
הגיע למקום ה-24 ברשימת קדימה לכנסת ה-18. במהלך הבחירות לכנסת ה-18 היה ראש מטה ההתיישבות העובדת של קדימה; בבחירות עצמן, המפלגה זכתה בקלפיות ההתיישבות העובדת ברוב קולות תוך שהיא עוקפת את מפלגת העבודה ומרצ, המפלגות המזוהות בדרך כלל עם ההתיישבות העובדת. בכנסת ה-18 כיהן חרמש בעיקר כחבר בוועדת הכספים והיה יו"ר השדולה החקלאית והשדולה ליחסים בינלאומיים בכנסת. לקראת הבחירות לכנסת ה-19 מוקם במקום החמישי של רשימת קדימה, אך לא נבחר לכנסת (קדימה זכתה בשני מושבים בלבד).