Elbridge Gerry est né à Marblehead dans le Massachusetts. Il est le troisième de douze enfants. Il est diplômé du collège de Harvard[1] qu'il fréquente à partir de quatorze ans et où il étudie les Lettres. Il travaille dans l’entreprise de transport maritime de son père et attire l’attention par son opposition au taxes sur le commerce. En mai 1772, il est élu à la General Court[2] (assemblée) du Massachusetts sur un programme anti-britannique. C'est dans cette assemblée qu'il se lie d'amitié avec deux personnalités importantes pour le futur des États-Unis, Samuel Adams et John Adams.
En 1786, il épouse Ann Thompson, fille d’un riche marchand newyorkais plus jeune que lui de 21 ans.
En 1787, il est l’un des délégués à la convention constitutionnelle à voter contre la nouvelle constitution et (comme Mason et Randolph) à ne pas la signer. Il refuse de signer car il considère que la constitution n'est pas appropriée pour le pays. Parmi les raisons qu'il invoque, on retrouve : le manque de représentants pour le Massachusetts (État qu'il représente) dans la nouvelle chambre des représentants, la clause des 3/5 sur l'esclavage (qu'il trouve surtout injuste vis-à-vis des États du Nord, dont fait partie le Massachusetts, qui n'ont pas d'esclaves), les trop grands pouvoirs économiques du Congrès, et enfin le rôle du vice-président représentant du pouvoir exécutif qui peut agir sur le pouvoir législatif grâce à son rôle de président du Sénat.
Il est élu à la chambre des représentants du nouveau gouvernement national et y sert de 1789 à 1793. Il surprend ses amis en devenant un fidèle du nouveau gouvernement, et soutient si vigoureusement les rapports de Hamilton sur les finances publiques, y compris l’appropriation des dettes d’État et la nouvelle Banque des États-Unis[3] qu’il est considéré comme un leader par les fédéralistes. Cependant, à cette période, il s'est toujours défendu d'appartenir à un parti politique identifié. Il ne se présente pas à la réélection en 1792.
En 1796, il est grand électeur pour John Adams qui le nomme ensuite dans la délégation humiliée par la France dans l’affaire XYZ. Lorsqu’il reste en France après le départ de ses deux collègues, les fédéralistes l’accusent de soutenir les Français. À l'époque, le seul parti soutenant la France, malgré les dérives de la Révolution, était le parti républicain de Thomas Jefferson. Face aux excès du gouvernement français, les fédéralistes préféraient avoir comme partenaire en Europe la Grande-Bretagne. Dès lors, quand Gerry a décidé de rester en France pour essayer d'arranger les relations entre les deux Français et Américains, malgré le rappel des diplomates par le président Adams, les fédéralistes l'ont dénoncé comme un soutien du parti républicain. À son retour aux États-Unis en octobre 1798, il est blessé des critiques formulées à son égard, qui confirme son rejet des partis politiques. Il garde néanmoins le soutien de son ami de longue date, John Adams.
En 1800, il rejoint officiellement le parti républicain, car il avait besoin d'un ancrage politique et que les républicains sont les seuls à l'avoir soutenu durant l'affaire XYZ et après.
La maison de Gerry, Elmwood mansion[4], maison historique de Cambridge (Massachusetts), fut le lieu de naissance du poète James Russell Lowell quelques années après la mort de Gerry.
Son petit-fils Elbridge Gerry (1813-1886) fut élu du Maine à la chambre des représentants.
Son arrière-petit-fils, Peter Goelet Gerry (1879-1957), fut élu de Rhode Island à la chambre des représentants.