Si vous disposez d'ouvrages ou d'articles de référence ou si vous connaissez des sites web de qualité traitant du thème abordé ici, merci de compléter l'article en donnant les références utiles à sa vérifiabilité et en les liant à la section « Notes et références ».
Deux jours après la sortie de leur premier album aux États-Unis le , les Rolling Stones arrivent à New York pour commencer leur tournée américaine. Quelques jours plus tard, leur producteur Andrew Loog Oldham obtient pour le groupe une session d'enregistrement de deux jours les 10 et aux célèbres studios Chess, où sont enregistrées les nombreux standards de blues qui inspirent le groupe comme Chuck Berry ou Bo Diddley. Une longue série de chansons y seront enregistrées, dont le contenu du EP ou la reprise It's All Over Now, qui sort en single au Royaume-Uni où il atteint la première place des charts[1]. Le groupe reviendra dans ces studios pour deux nouvelles sessions le et le . L'intégralité de ces sessions est paru sur le disque pirate 2120 South Michigan Avenue (The Unreleased 1964 Blues Album)[2].
Parce que Mick Jagger et Keith Richards continuaient à peaufiner leurs talents de compositeurs, seuls Empty Heart et 2120 South Michigan Avenue ont été crédités «Nanker Phelge», un pseudonyme pour les compositions écrites par le groupe au complet. Le reste du EP est composé de reprises R&B de certains de leurs artistes préférés. Andrew Loog Oldham a produit Five by Five et a même contribué aux notes de la pochette (une tradition commencée ici) où il énumère les réalisations du groupe jusqu'à présent (et étire la vérité en revendiquant que le premier album de Rolling Stones avait passé 30 semaines à #1 quand il étai, en fait, au sommet pour 12 semaines).