בשנת 1982 התגייס ארליך למשטרת ישראל ליחידת העיקוב הסמויה בימ"ר תל אביב, בה מילא תפקיד של ראש צוות כארבע שנים. החל משנת 1986 עבר לשרת במגוון תפקידי מודיעין, בילוש וחקירות ביחידה המרכזית. בשנת 1988 סיים קורס קצינים ייעודי וביצע מגוון תפקידי שטח מבצעיים כראש חוליית בילוש, ראש חוליית סמים, ראש חוליית כייסים, ראש חוליית מודיעין מבצעי, ראש מחלק סמים, ראש מחלק מוסר, ראש לשכת מודיעין ובילוש במרחב ירקון, ראש מפלג סמים בימ"ר, ראש מחלקת מודיעין במנהלת ההגירה, מפקד ימ"ר אגף תנועה, סגן מפקד מרחב חברון וסגן מפקד משטרת התנועה הארצית.
במהלך שרותו נודע "קרמשניט" (שקיבל את כינוי זה בעקבות קונדיטוריה שניצבה מול ביתו בשכונה, ושבה עבד בגיל 12 בלישת בצק. ארליך סיפר שבעל הבית היה נותן לו לבחור חמש עוגות לעצמו, והוא היה בוחר קרמשניט בקביעות) כמי שניהל מאבק בלתי מתפשר בפשיעה החמורה ונקט בפעילויות מבצעיות יזומות שזכו להד ציבורי ותקשורתי, למיגור ההימורים הבלתי חוקיים, הסחר בבני אדם והסרסרות. בין היתר, לקח חלק מרכזי בפענוח "רצח השבעה" שבוצע באוקטובר 1989. הקים ועמד בראש מערך המודיעין במנהלת ההגירה. הקים ועמד בראש היחידה המרכזית באגף התנועה, שתחת פיקודו קיבלה את פרס מפכ"ל המשטרה בשנת 2007.
בשנת 2005 פעל להקמת ועדת חקירה לחקירת פרשת האחים פריניאן. בין היתר, שימש כמקור לתחקירים של אילנה דיין על הפרשה, ששודרו במסגרת תוכניתה "עובדה" באפריל 2005. בדצמבר 2005 החליטה הממשלה על הקמת ועדת זיילר לבדיקת התנהלות המשטרה והפרקליטות בפרשה. דו"ח הוועדה פורסם בפברואר 2007, ובעקבותיו התפטר המפכ"ל משה קראדי ונפתחו חקירות כנגד מספר גורמים אשר צוינו בדו"ח. במרץ 2006, במהלך עבודתה של ועדת זיילר, חשף כתב קול ישראלרן בנימיני כי ארליך היה זה שהדליף את המידע לאילנה דיין, בעודו מכהן במשטרה. ארליך היה אחד מהעדים המרכזיים שהעידו בפני הוועדה. הוא זכה לחסינות ממנה ובזמן עדותו כונה בתקשורת "מיסטר איקס". עם חשיפת עדותו בוועדה, הודלפו מגורמים במשטרה פרטים אישיים חסויים עליו[1].
בדצמבר 2017 סיים את שירותו במשטרה[8]. יוצג במהלך שנים רבות, בהן שנות המאבק לקבלת דרגה ולהחזרתו למשטרה, בהתנדבות על ידי התנועה לאיכות השלטון ועל ידי עמותת אומ"ץ.
ביוני 2019 פורסם כי לאחר יציאתו לגמלאות, ארליך החל לעבוד כנהג מונית, תפקיד בו הוא עובד עד היום[9].
מאז שחרורו מהמשטרה שימש אפרים ארליך כפרשן לענייני פלילים ומשטרה במספר תוכניות בטלוויזיה. כמו כן הוא מרצה בפורומים שונים על לפני ומאחורי הקלעים בעולם הפשע הישראלי.