En 1900, Herts s'associe avec Hugh Tallant dans le cabinet Herts & Tallant, et se spécialise dans la conception de théâtres. Tallant s’occupe de l’architecture, et Herts joue le rôle de l’ingénieur et de l’homme d’affaires. Leur première réussite est le New Amsterdam Theatre construit en 1903, suivi du théâtre Fulton (détruit en 1982), du Gaiety(en) (aussi détruit en 1982) du Liberty(en) (détruit en 1933), du Lyceum, du New German Theatre, et de la Brooklyn Academy of Music. Herts améliore la construction d’arcs en porte-à-faux, permettant aux architectes des théâtres de placer des balcons sans utiliser de colonnes[1].
Son partenariat avec Tallant prend fin en 1911 ; Herts continue avec son assistant Herbert J. Krapp, et produit le Booth Theatre et le Shubert qui lui fait face, et le Longacre Theatre. Krapp quitte l'entreprise en 1915. Herts conçoit également le mausolée de la famille Guggenheim au cimetière Salem Fields(en) de Brooklyn.
