Das Stadtgebiet war früher von Chickasaw und Choctaw bevölkert. Bis 1830 waren alle aus ihrer Heimat vertrieben.
Am 26. Mai 1736 fand auf dem Gebiet die Schlacht von Ackia statt, die zwischen Briten gemeinsam mit ihren Verbündeten, den Chickasaw, gegen Franzosen und deren Verbündete Choctaw ausgetragen wurde. Die Stadt wurde 1870 gegründet und ist benannt nach dem einheimischen Ogeche-Tupelobaum (Nyssa aquatica), einer Art aus der Familie Nyssaceae.
1960 schrieb John Lee Hooker einen Song über die Flut in Tupelo im Jahr 1936; ein Remake des Titels wurde 1995 veröffentlicht. 1985 veröffentlichte Nick Cave die Single Tupelo als Hommage an sein großes Vorbild Elvis Presley. Weitere Musikstücke, in denen Tupelo vorkommt, sind Porch Swing in Tupelo von Elton John und Back to Tupelo von Mark Knopfler, beide aus dem Jahr 2004 und Ode to Billie Joe aus dem Jahr 1967. Von Van Morrison stammt das Album Tupelo Honey aus dem Jahr 1971. 2003 veröffentlichte die Progressive-Metal-Band SikTh einen Song mit dem Titel Tupelo auf ihrem Debütalbum, in dem unter anderem die Stimme von Elvis Presley imitiert wird.
