L'Albacete compte à son palmarès un titre de champion de Segunda División en 1991 ainsi que deux titres de champion de Segunda División B, obtenus en 1990 et 2014.
Le club est fondé le sous le nom de la Sociedad Deportiva Albacete Foot-ball Association. Il évolue pour sa première saison, en 1940-1941, en Primera División Regional. Le SD Albacete Foot-Ball Association se renomme en Albacete Balompié en 1941 dans une volonté de sonner plus espagnol.
Le club évolue pendant sept saisons en première division : de 1991 à 1996, et enfin de 2003 à 2005. Il obtient son meilleur classement en première division lors de la saison 1991-1992, où il se classe 7e du championnat, avec 16 victoires, 8 matchs nuls et 14 défaites. Cette même saison, le club rate pour seulement un petit point la qualification en Coupe de l'UEFA.
Le club évolue en deuxième division pendant une vingtaine de saisons : de 1949 à 1951, puis lors de la saison 1961-1962, ensuite lors de la saison 1985-1986, puis à nouveau lors de la saison 1990-1991, ensuite de 1996 à 2003, puis de 2005 à 2011, de 2014 à 2016 et enfin depuis l'année 2017.
Le club atteint les huitièmes de finale de la Coupe du Roi à deux reprises, en 1993 puis en 2012.
Le club connaît une période difficile au début des années 2010. Évoluant en Segunda División B en 2011, l'Albacete est en pleine crise financière et risque l'implosion. En décembre de la même année, le milieu de terrain du FC Barcelone, Andrés Iniesta, formé au club avant de rejoindre la Catalogne, apporte son aide financière. Il rachète ainsi 7000 actions du club pour la somme de 420 000 euros et en devient l'actionnaire principal[4].
Au mois de , l'Albacete rend officiel le rachat de 94,6 % de ses actions par le groupe qatari Skyline International qui devient ainsi le nouveau propriétaire du club[5]. Une semaine après, le club règle sa dette envers la Seguridad Social y la Agencia Tributaria en payant quatre millions d'euros et peut ainsi évoluer en seconde division pour la saison 2017-2018[6].