L'origine della città, situata sulla riva sinistra della Schelda, a sua origine va ricercata in un pagusromano tra la civitas dei Menapi, della quale, in epoca tardo romana ne divenne la città principale. La città fu poi parte dall'843 dell'altomedievaleregno franco occidentale, che divenne poi la Francia, mentre l'area circostante, quello che sarebbe stato il futuro Tournaisis fu fino al IX secolo parte della Contea delle Fiandre.
La città fu sede del Vescovato di Tournai costituendo una signoria episcopale sotto la sovranità del re dei franchi. Per questo la città godette di un certo potere e una relativa indipendenza.
Le invasioni normanne del'881 distrussero la città ma l'economia, già florida prima di questa data, si riprese in breve tempo tanto che le mura vennero estese nell'XI secolo a un borgo mercantile fuori delle mura cittadine e, nel secolo successivo al borgo, chiamato Saint-Brice, formatosi sulla riva opposta della Schelda nel territorio imperiale.
Verso il 1147 iniziò un processo di allontanamento del governo locale dall'autorità ecclesiastica prima vedendo riconosciuta l'autonomia amministrativa con la creazione di un comune e poi, nel 1187, ottenendo la definitiva autonomia dal vescovo. Questo percorso, guidato dalla borghesia locale, portò Tournais e il Tournaisis sotto la sovranità diretta del re di Francia.
Tournai, divenne quindi, per la sua posizione geografica agli estremi settentrionali del regno, il più importante centro politico di espansione francese verso nord, godendo così di un particolare trattamento e protezione da parte del re. Il grado di autonomia raggiunto fu così elevato che persino la giustizia era amministrata in modo del tutto autonomo. Una nuova e più grande cinta di mura tu costruita tra il 1202 al 1304 mettendo insieme e federando le circostanti signorie autonome.
Nel 1792 i rivoluzionari francesi occuparono il Belgio e quindi Tournai e il Tournaisis. L'anno successivo l'Austria e gli alleati riconquistarono il territorio per poi perderlo definitivamente nel 1794 con la battaglia di Fleurus.