White graduierte 1822 am Union College in Schenectady und studierte im Anschluss die Rechtswissenschaften, woraufhin er 1825 als Anwalt zu praktizieren begann. Später zog er dann nach Lafayette in Indiana, wo er ab 1831 als Sekretär (Assistant clerk) für das Repräsentantenhaus des Staates arbeitete; 1832 stieg er zum Clerk auf. Er bewarb sich im selben Jahr auch um einen Sitz in der Parlamentskammer, unterlag jedoch.
Nach seinem Ausscheiden aus dem Senat kehrte er nach Indiana zurück, wo er in Stockwell wieder als Jurist arbeitete sowie als Präsident mehrerer Eisenbahngesellschaften amtierte. 1860 bewarb White sich als Republikaner erneut um einen Sitz im Repräsentantenhaus in Washington, D.C. und wurde gewählt. Nach einer Amtsperiode schied er auf eigenen Wunsch aus dem Kongress aus. Präsident Abraham Lincoln berief ihn daraufhin in eine Kommission zur Bearbeitung von Rechtsansprüchen gegen die Bundesregierung, die aus nicht verhinderten Indianerangriffen resultierten. Schließlich wurde er zum Richter am Bundesbezirksgericht für den Distrikt Indiana ernannt; er starb im September 1864 im Amt.