Hartmann war 1246/47 Domherr in Augsburg. Nach der Absetzung des staufertreuen Bischofs Siboto von Seefelds durch Papst Innozenz IV. wurde er 1248 zum Bischof von Augsburg ernannt. Weil Augsburg in staufischer Hand war, erfolgte seine Weihe allerdings erst im Jahr 1256. Im Konflikt zwischen Staufern und Papst zählte Hartmanns Familie zusammen mit den Grafen Ulrich I. von Württemberg und Hartmann II. von Grüningen zu den bedeutendsten Gegnern von König Konrad IV.
In seinem Bistum war er ein Förderer der Klöster und Spitäler. Er erlaubte den Bettelorden der Dominikaner, Franziskaner und Karmeliter, die Seelsorge in seiner Diözese. Er lag seit 1256 im Streit mit Ludwig II. von Bayern um die Vogtei des Hochstifts, konnte sich schließlich 1270 durchsetzen, verlor aber die Vogtei 1276 wieder an das Reich. In der Fehde mit Ludwig III. von Oettingen um die Vogtei des Klosters Neresheim entschied ein Schiedsgericht unter Leitung von Albertus Magnus gegen ihn. Schwigger II. von Mindelberg nahm ihn 1266 gefangen und brannte seine Burg Straßberg nieder.
Nach dem Tode seines Bruders Adalbert (1257) und seines Vaters Hartmann IV. (1258) hatte er neben seinen Schwägern einen Großteil des verbliebenen Dillinger Besitzes geerbt,[2] die 1258 bzw. 1286 weitgehend an das Hochstift Augsburg übergingen. Mit Hartmanns Tod 1286 erlosch das Geschlecht der Grafen von Dillingen.
Hartmann wurde im Augsburger Dom vor dem Kreuzaltar bestattet.
Adolf Layer: Die Grafen von Dillingen. In: Jahrbuch des Historischen Vereins Dillingen an der Donau. Bd. 75, 1973, S. 46–101 (Digitalisat BSB)
Manfred Weitlauff: Hartmann, Graf von Dillingen. In: Erwin Gatz (Hrsg.): Die Bischöfe des Heiligen Römischen Reiches 1198 bis 1448. Duncker & Humblot, Berlin 2001, ISBN 3-428-10303-3, S.9–12.