Arkin har vært med i diverse TV-serier, som Northern Exposure fra 1990 til 1995, der han spilte den eksentriske kokken Adam, og i Chicago Hope mellom 1994 og 2000. Han spilte en statsadvokat ved navn Charles Graham i en episode av TV-serien Lov og Orden i sesong 16 som ble sendt på TV i 2005.
Andre fjernsynsopptredener inkluderer psykolog Stanley Keyworth i The West Wing (1999). I Frasier spilte han en obsessiv fan av Frasier. Han har også spilt i Boston Legal, Monk og 8 Simple Rules for Dating My Teenage Daughter (2002).