Gideon Ellis Newman naît le à Dixfield dans l'État du Maine aux États des États-Unis[1]. Le , il épouse Elizabeth Wardall. Ils ont six enfants.
En 1854, Newman s'installe à Cooksville dans le Wisconsin. Pendant la guerre civile américaine, il s'enrôle dans le 35e régiment d'infanterie volontaire du Wisconsin de Union Army. Il participe à la bataille du fort d'Espagne et obtient le grade de premier lieutenant.