Il bar è famoso per esser stato una delle mete preferite di Ernest Hemingway quando visse nell'isola della Florida[1] tanto da essere il luogo in cui conobbe Martha Gellhorn[2] e nel quale è stato ritrovato un archivio contenente quattro racconti inediti, bozze di manoscritti, foto, lettere ed altri effetti personali del premio Nobel statunitense.[3][4][5]
Lo Sloppy Joe's venne aperto il 5 dicembre 1933, il giorno stesso in cui fu abrogato il proibizionismo, da Joe Russell, un gestore di speakeasy illegali, in un edificio diverso da quello attuale nel quale si è trasferito nel 1937.[6]