גזארה נולד בניו יורק למשפחת מהגרים איטלקית. הוא גדל בשכונת לואר איסט סייד ברחוב 29 מזרח. השתתף בתוכנית דרמה של "מועדון בנים ובנות" ששכן באותו רחוב. למד בבית הספר התיכון סטויווסנט (Stuyvesant) ואחר כך בבית הספר "Our Lady of Angels" ברובע הברונקס. הוא התחיל ללמוד הנדסת חשמל בסיטי קולג' של ניו יורק, אבל אחרי שנתיים פנה לקריירת משחק והחל ללמוד ב"סדנת הדרמה" (Dramatic Workshop) באוניברסיטה ניו סקול אצל הבמאי הגרמני ארווין פיסקטור. אחרי כן הצטרף לאולפן השחקנים.
גזארה הפך לדמות מוכרת מסדרות טלוויזיה כגון "המושבעים" (Arrest and Trial) של ABC, שרצה בשנים 1963–1964, והסדרה המצליחה "מרוץ לחיים" (אנ') של NBC, שרצה בין 1965 ל-1968. על תפקידו בסדרה היה מועמד פעמיים לפרס אמי ושלוש פעמים לפרס גלובוס הזהב. בשנות השישים השתתף גם בסרטי קולנוע כגון "The Young Doctors" (1961), "A Rage to Live" (1965) ו-"The Bridge at Remagen" (1969).
בשנות השבעים יצר כמה דמויות מטילות אימה יחד עם ידידו ג'ון קאסאווטס. שיתוף הפעולה ביניהם החל ב-1970 בסרט "בעלים", שהשתתפו בו גם פיטר פאלק וקאסאווטס עצמו. בסרט "רצח סוכן הימורים סיני" (1976) שיחק גזארה בתפקיד הראשי כקוזמו ויטלי, בעל מועדון חשפנות חסר מזל. שנה אחר כך כיכב בסרט נוסף שביים קאסאווטס "ליל הבכורה", בתפקיד מנהל במה המתמודד עם כוכבת המופע, שאינה יציבה נפשית, בגילומה של ג'ינה רולנדס. עוד בשנות השבעים הופיע במיני-סדרה הטלוויזיונית "משפט דיבה" (QB VII), הסרט "קאפונה" (1975), "מסע הארורים" (1976), High Velocity, וכן ב"המלאך ג'ק" (1979).
בשנות השמונים הופיע גזארה בסרטו של פיטר בוגדנוביץ' "הם צחקו על כולם", ובתפקיד הנבל בסרט "שומר הברים", לצדו של פטריק סווייזי. ב-1985 שיחק עם ג'ינה רולנדס בסרט הטלוויזיה שזכה לשבחים "קיפאון מוקדם", על תפקידו זה היה שוב מועמד לפרס אמי.
גם בשנות האלפיים כשהיה מעל גיל שבעים המשיך בפעילות קולנועית. ב-2003 השתתף בצוות השחקנים של "דוגוויל" סרטו של לארס פון טרייר בכיכובה של ניקול קידמן. בטלוויזיה השתתף בסרט "עיוורון היסטרי", וזכה בפעם הראשונה בפרס אמי.
בנוסף להיות שחקן היה גם במאי טלוויזיה, בין השאר ביים פרקים מהסדרה קולומבו ב-1974 וב-1975. שלוש פעמים היה מועמד לפרס טוני כשחקן הטוב ביותר, ב-1956 עבור המחזה "כובע מלא גשם" (A Hatful of Rain), ב-1975 על שני מחזות קצרים Hughie ו- Duet, וב-1977 על הפקה מחודשת של "מי מפחד מווירג'יניה וולף?" לצידה של קולין דיוהרסט.
גזארה התחתן שלוש פעמים. בין השנים 1951 עד 1957 היה נשוי לשחקנית לואיז אריקסון. מ-1961 ועד 1979 היה נשוי לג'ניס רול (Janice Rule) ומשנת 1982 היה נשוי לדוגמנית הגרמניה אלקה קריבאט. בספרו גילה שהיה לו רומן עם השחקנית אודרי הפבורן[1], איתה הופיע בסרטים "Bloodline" וב"הם צחקו על כולם".