Haise est né à Biloxi, Mississippi. Il a fréquenté l'école secondaire de Biloxi, la Perkinston Junior College. En 1959, il obtint un diplôme en génie aéronautique à l'Université de l'Oklahoma. Il complète ses cours post-universitaires à l'École de l'US Air Force. Il termine sa formation de pilote de l'aéronavale en 1954 et sert comme pilote de chasse à United States Marine Corps. Il devient pilote d'essais à la base Edwards en 1964.
Carrière
En , il est l'un des 19 pilotes sélectionnés dans le cinquième groupe d'astronautes de la NASA. En 1968, à la suite du retrait de Michael Collins de l'équipage d'Apollo 8, première mission spatiale autour de la Lune, Haise entre dans l'équipage de réserve en tant que doublure de William Anders. Au lendemain de cette mission, en , il est à nouveau nommé doublure, cette fois de Buzz Aldrin, pilote du module lunaire d'Apollo 11, la mission du premier débarquement sur la Lune.
Juste après ce vol, en , Haise est nommé pilote principal du module lunaire de la mission Apollo 13, ce qui le prédispose à devenir le 6e homme à marcher sur la Lune. Mais le , deux jours après le décollage de la fusée, une explosion se produit dans le module de service, contraignant les responsables de la mission à annuler l'alunissage. Les trois membres de l'équipage (Jim Lovell, Jack Swigert et lui-même) sont alors contraints de se réfugier dans le module lunaire, utilisé comme chaloupe de sauvetage, la baisse de la température à l'intérieur du module de commande ayant rendu celui-ci invivable. L'équipage contourne la Lune et revient en catastrophe vers la Terre. Cette épopée sera rapportée 25 ans plus tard dans un film de fiction, Apollo 13, de Ron Howard, le rôle de Haise étant interprété par l'acteur Bill Paxton.
Juste après cet échec, Haise est prévu pour être désigné commandant de la mission Apollo 19. Mais le , la NASA annonça son annulation ainsi que celle de la mission Apollo 18, à la suite de la décision du congrès pour des raisons budgétaires. Haise est alors désigné commandant de réserve de l'équipage d'Apollo 16, ce qui lui laisse une ultime chance de marcher sur la Lune. Mais le maintien à son poste du commandant titulaire, John Young, lui enlève ses derniers espoirs de fouler le sol de notre satellite. Il présente donc la particularité d'avoir failli marcher sur la Lune à quatre reprises (Apollo 11, 13, 19 et 16) et, finalement, de n'y être jamais allé.
Par la suite, il est engagé dans l'entreprise Grumman Aerospace, l'ancien fabricant du module lunaire. Intronisé à l'Aerospace Walk of Honor en 1995, il prend sa retraite l'année suivante.