בשנת 1950 עלה שרמק למדינת ישראל, באניה גלילה. שרמק התחיל את עבודתו במחלקה הכירורגית בבית החולים רמב"ם, בהנהלתו של הפרופ' דוד ארליק[6]. תחילה התגורר במחנה העולים כורדני ב', ובהמשך התגוררה משפחתו שנים רבות בחדר קטן בבית החולים[7].
בשנים 1956–1957 עסק בפיתוח אנגיוגרפיה, אשר בוצעה על ידי כירורגים, ולא על ידי רנטגנולוגים. שרמק פיתח מערכת מאולתרת לבצוע אאורטוגרפיה טרנס לומברית עם מחט ענקית[8].
שרמק סיים 3 סוגי התמחויות: בכירורגיה כללית, באורולוגיה ובכירורגית כלי-דם.
בפברואר 1965 בוצעה ברמב"ם השתלת כליה מן המת, לראשונה בישראל על ידי הפרופ' דוד ארליק. עוזרו בניתוח היה שרמק[9]. לאחר מכן, נשלח שרמק לארצות הברית להשתלם בכירורגית כלי דם.
במהלך השנים התמנה למנהל מחלקה כירורגית. בתחילת שנות השבעים של המאה העשרים מונה שרמק למנהל האגף הכירורגי בבית החולים רמב"ם.
שרמק היה מרצה לכירורגיה בבית הספר לרפואה של הטכניון. בשנת 1972 הוא מונה לפרופסור חבר קליני[10].
בשנת 2003, בגיל 86, לאחר 53 שנות עבודה בבית החולים רמב"ם, פרש שרמק לגמלאות.
שרמק נפטר בשנת 2008. נקבר בבית העלמין כפר יהושע (כפר סמיר)[11] הותיר בת (נעמי רום) ושלושה נכדים (אשתו נפטרה בשנת 2003).
פיתוח מהפכני לניתוח ורידים על ידי שרמק
בעיה של קרישת דם לאחר ניתוח ורידים, בעיקר בווריד המרכזי, גרמה לעיתים לנמק ולצורך בקטיעת גפה. בסוף שנת 1973 שרמק הגה רעיון שנלמד אחר כך בכל העולם. שרמק חיבר עורק קטן שהזרים דם עורקי לאזור המנותח והסירו רק לאחר שהניתוח התאחה והגפה ניצלה מקטיעה[12].