En tant que pianiste-compositeur-arrangeur « spécialiste du style Duke Ellington » Billy Strayhorn devient un de ses proches collaborateurs « alter ego »[4],[5]. Cette composition devient un des grands succès mondiaux de l’ère du swing américain pendant la Seconde Guerre mondiale[6], en même temps que Chattanooga Choo Choo de Glenn Miller[7] (une des autres légendes vivantes de big band swing & jazz de l’époque).
Peu de temps après avoir rencontré Duke Ellington à New York (en prenant la ligne A du métro de New York[8], et en imitant parfaitement sa musique) Billy Strayhorn déclare à un journaliste de Pittsburgh ou il vit « Je vais travailler pour Duke. J'ai joué ce A Train pour lui et il a aimé ça. Je déménage à New York. ». La composition entre en aux charts des meilleures ventes américaines pendant sept semaines[2].
Le « Train A » correspond à la nouvelle ligne A du métro de New York des années 1930, qui traverse New York en reliant les quartiers de Brooklyn et d'Harlem (station de Sugar Hill) en passant par Manhattan au centre de New York. Billy Strayhorn raconte dans une interview de 1967[9] : « Quand je suis arrivé à New York, on construisait une nouvelle ligne de métro. J’habitais sur le passage de cette ligne mais il y avait une autre ligne, la D, qui, elle, bifurquait juste avant d’arriver chez moi, pour aller dans le Bronx. Les gens se trompaient souvent de ligne, ils prenaient la D et, pour éviter toute confusion quand ils venaient chez moi, je leur disais : take the A train. ».
La chanteuse de jazz Joya Sherrill est une lycéenne de 17 ans, lorsqu'elle rencontre Duke Ellington pour lui chanter les paroles qu'elle a écrite pour cette composition « Vous devez prendre le train A, Pour aller à Sugar Hill jusqu'à Harlem, Si vous manquez le train A, Vous constaterez que vous avez raté le chemin le plus rapide vers Harlem, Dépêchez-vous, allez, maintenant, ça vient, Écoutez ces rails vibrer (tous à bord), Montez dans le train A, Vous serez bientôt sur Sugar Hill à Harlem... »[10]. Duke Ellington l'embauche dans son orchestre dès la fin de ses études en .
Un concert de jazz new-yorkais est donné le dimanche sur la ligne A du métro de New York (à bord de voitures de métro d'époque) pour commémorer le 100e anniversaire de la naissance du compositeur de « Take the A Train » Billy Strayhorn (1915-1967)[11],[12].