Han var sønn av by- og rådstueskriver Peter Gjertz og Magdalene Elisabeth Hoff. Etter å ha blitt student i 1840 ble han cand. jur. i 1845 og var deretter sorenskriverfullmektig i sju år. Deretter ble han ansatt i Justisdepartementet, hvor han avanserte til byråsjef. I 1865 ble han utnevnt til sorenskriver i Numedal og Sandsvær. Han ble i denne stillingen helt til 1893.
Som sorenskriver hadde Gjertz bolig på Kongsberg, hvor han var medlem av bystyret i flere år. Han var representant for Kongsberg på Stortinget 1874–76. Han var også medlem av en kongelig kommisjon som skulle vurdere en revisjon av bergverksloven.