Im Jahr 1838 kandidierte er erfolglos für den 26. Kongress. Seine politische Zugehörigkeit wechselte in dieser Zeit zu der Whig Party. Bei den Kongresswahlen des Jahres 1840 für den 27. Kongress wurde Birdseye im 23. Wahlbezirk von New York in das US-Repräsentantenhaus gewählt, wo er am 4. März 1841 die Nachfolge von Nehemiah H. Earll und Edward Rogers antrat, welche zuvor zusammen den Distrikt im US-Repräsentantenhaus vertreten hatten. Da er auf eine erneute Kandidatur im Jahr 1842 verzichtete, schied er nach dem 3. März 1843 aus dem Kongress aus.
Nach seiner Kongresszeit ging er wieder seiner Tätigkeit als Anwalt nach. Er verstarb am 16. September 1853 in Pompey und wurde dann auf dem Pompey Hill Cemetery beigesetzt. Sein Urenkel Clarence Birdseye entwickelte den Prozess für Tiefkühlkost (freezing food) und war der Gründer von Birds Eye Frozen Foods.