Le label est fondé en 1971 par Bruce Iglauer grâce à ses économies pour enregistrer et produire son groupe préféré, Hound Dog Taylor and the HouseRockers[2], que son employeur, Bob Koester de Delmark Records, avait refusé d'enregistrer. Neuf mois après la sortie du premier album, il cesse de travailler chez Delmark Records pour se consacrer entièrement à son groupe et à son label. Seuls 1 000 exemplaires du premier album de Taylor sont produits, tandis qu'Iglauer prend en charge la gestion du groupe. Parmi les autres premières sorties du label naissant figurent des enregistrements de Big Walter Horton avec Carey Bell et Fenton Robinson. En 1976, l'album I Got What It Takes de Koko Taylor est nommé pour un Grammy Award, et Albert Collins signe bientôt sur le label. Iglauer travaille principalement comme producteur exécutif[3].
Alligator célèbre son 40e anniversaire en 2011, tout en déclarant un bénéfice pour l'année précédente[4]. En , Exceleration Records investit dans Alligator, devenant un partenaire financier et administratif avec Iglauer[5]. En 2021, Alligator célèbre son 50e anniversaire[6], à l'occasion duquel la maire de Chicago, Lori Lightfoot, déclare le « Alligator Records Day » à Chicago[6], et la représentante américaine Jan Schakowsky ajoute des commentaires sur le rôle d'Iglauer et d'Alligator dans « l'héritage culturel américain de la musique blues de Chicago » dans le dossier du Congrès[7].
