Родился 10 мая 1944 года в Шорвуде (штат Висконсин, США) в еврейской семье научного работника Луизы М. Абрахамс и юриста Нормана С. Абрахамса. Также у Джима есть 2 сестры — Алиса Грюнберг и Джейн Бутнофф. Абрахамс учился в Висконсинском университете в Мадисоне, где познакомился с братьями Дэвидом и Джерри Цукерами. В 1971 году вместе с ними создал в Мадисоне театральную труппу The Kentucky Fried Theater, где троица занималась созданием пародийных и сатирических скетчей. В 1972 году творческое трио переехало в Лос-Анджелес, где они написали сценарий к комедии «Солянка по-кентуккийски» (1977), доверив режиссуру своего первого фильма Джону Лэндису. В этой ленте они пародировали фильмы, телевидение, рекламу и многое другое. Фильм имел неожиданно большой успех, который позволил творческому союзу закрепиться в Голливуде и получить карт-бланш на создание последующих комедий.
Дальнейшие работы этой группы, поставленные в сатирическом ключе и пародирующие картины популярных жанров — «фильмы-катастрофы», шпионские и полицейские картины, военные боевики — приобрели немалую популярность. Так пародийная комедия «Аэроплан!», в которой Абрахамс выступил как сорежиссёр, сосценарист и сопродюсер, смогла 28 раз окупить себя в прокате, удостоилась восторженных откликов критики и даже была включена в Национальный реестр фильмов, как фильм, оказавший серьёзное влияние на жанр, искусство и культуру в целом. Следующие ленты троицы также со временем были признаны культовыми: «Совершенно секретно!», «Безжалостные люди» и сериал «Полицейский отряд!». Своего апогея творчество Ц-А-Ц достигло в пародийной трилогии «Голый пистолет», в которой с особым цинизмом насмехались над полицейскими боевиками и вообще криминальным жанром. В серии этих фильмов Абрахамс выступал в качестве сосценариста и исполнительного сопродюсера, тогда как постановкой занимался Дэвид Цукер и Питер Сигал.
Как и его партнёры, Джим Абрахамс уже в конце 80-х начал заниматься «сольной» карьерой, поставив как режиссёр фильм «Большой бизнес» (1988) и выступив исполнительным продюсером ленты Джона Уотерса «Плакса» (1990).
Наибольшего сольного успеха он достиг, поставив две части признанной классики пародийного жанра «Горячие головы!», имевшие огромный финансовый успех, сравнимый с успехом лучших работ, созданных им в соавторстве с Цукерами. Последний раз в качестве режиссёра Абрахамс выступил в 1998, сняв комедию «Мафия!», наполнив грубовато-абсурдным юмором сюжет трилогии «Крёстный отец». Однако этот фильм не снискал столь громкого успеха, как предыдущие ленты признанного классика комедии.
В 2006 году выступил в качестве сосценариста к пародийной комедии Дэвида Цукера «Очень страшного кино 4».
Вместе со своей женой Нэнси Абрахамс является соучредителем фонда The Charlie Foundation, помогающим лечить детскую эпилепсию с помощью кетогенной диеты.