במקביל ללימודיו באוניברסיטה עבד לפרנסתו כסדר וכמגיה בבית דפוס, ובהמשך היה מגיה במערכת האנציקלופדיה העברית, בעבודת ההכנה לאנציקלופדיה יודאיקה ומזכיר מערכת תרביץ. ישראל ייבין כתב מספר ערכים באנציקלופדיה מקראית ("מסורה", "מקרא – כתבי-יד של המקרא", "מתג, געיה, מאריך" ו"קרי וכתיב") כמו כן עבד במפעל המקרא של האוניברסיטה העברית, שם התמחה במחקר כתבי-יד עתיקים של המקרא, בהם כתר ארם-צובא, ובעקבות כך הוציא לאור את ספרו על הכתר. ספרו זה, "כתר ארם צובא, ניקודו וטעמיו", מתאר בצורה מדויקת את שיטת הניקוד הנהוגה בכתר שהיא יסוד הניקוד שלנו ועליו בנוי הניקוד העברי. על עבודתו זו זכה ייבין, בשנת 1969, בפרס יפה מטעם קרן היסוד. מנימוקי חבר השופטים:
בחיבורו זה קלט מר ייבין את אומנותם של בעלי המסורה הקדמונים, שהיו סופרים כל אותיות שבתורה, ומדקדקים באותיות ובטעמיהן ובכל תגים וזיונים שבהן. וזכה גם הוא, בעמלו שאין שיעור לו, לקשור בחיבורו כתרים לכתר תורה, חיבור שהוא לתועלת החוקרים ולכבוד התורה ולומדיה.
ידידי ייבין...למן התוכנית למפעל ועד לגיבושה במעשה ועיצובה לשיגרת המעשה יום יום הדרך אינה קצרה וזרועה חתחתים. כבר באותו הפרק נתבלטה תרומתך המיוחדת למפעל ברוחב ידיעותיך, ברוב נסיונך בחקר כתבי יד הבאים לידי ביטוי בספר המקורות, בשיטתיות הטבועה בלבך, בנאמנותך הגמורה למטרה שהוקם המפעל לשמה – וראשון ראשון בנועם הליכותיך עם שותפיך לעבודה, שמכוח מעמדך במפעל היית אחראי במישרין לפעולתם.
— פרופ' זאב בן חיים , 1993 טקס יובל ה-70 לייבין
החל בשנת 1968 הורה בחוג ללשון של האוניברסיטה העברית והגיע עד לדרגת פרופסור מן המניין וכן כיהן כראש החוג ללשון עברית. ב-1990 פרש לגמלאות. המקצועות שלימד באוניברסיטה היו גם תחומי התעניינותו במחקר: המסורה, טעמי המקרא, מסורת הלשון המשתקפת בניקוד הבבלי, לשון חכמים, לשון הפיוט ולקסיקולוגיה. הוא פרסם שלושה ספרים ולמעלה מחמישים מחקרים.
בשנת תשמ"ט (1989) זכה בפרס ישראל על תרומתו למחקר הלשון העברית. חבר השופטים קבע בנימוקיו לפרס כי "הוא מגדולי החוקרים בעולם בחקר המָסורה והטעמים והגדול שבחוקרי העברית המְסוּרה בניקוד הבבלי".
