En 2004, il se présente au Sénat des États-Unis pour succéder au démocrate John Breaux. Bien que centriste, il est attaqué par le républicain David Vitter qui le qualifie de « libéral de Washington ». Il est battu dès le premier par Vitter qui réunit 51 % des voix. John rassemble 29 % des suffrages devant un autre démocrate, John Kennedy, à 15 %[2].
