Byl synem císaře Leopolda I. ze třetího manželství s Eleonorou Neuburskou. Měl sice mnoho vlastních i nevlastních sourozenců, ale v důsledku brzkého úmrtí většiny z nich se stal záhy nejstarším mužským potomkem a tedy i dědicem trůnu.
Josef byl inteligentní a schopný mladík, který ovládal sedm jazyků (včetně češtiny, kterou ovládal lépe než jeho otec) a po otci Leopoldovi zdědil i jisté hudební nadání, neboť sám komponoval skladby. Jeho vzdělávání se ujali Franz Ferdinand von Rummel, pozdější biskup ve Vídni, a kníže Karel Theodor Otto ze Salmu. Otec ho již v dětství nechal korunovat uherským (1687) a římskoněmeckým králem (1690); českým králem korunován nikdy nebyl, byť k českému prostředí si vybudoval určitý vztah (v roce 1702 navštívil Prahu a Starou Boleslav, kde se poklonil Palladiu země české).
Jeho manželkou se při svatebním obřadu ve Vídni 24. února 1699 stala o pět let starší Amálie Vilemína, Josef ovšem měl milostné aféry před sňatkem i po sňatku. Zřejmě svou ženu nakazil pohlavní chorobou, takže po několika letech zůstala neplodná a počet jejich potomků skončil na třech, z nichž se ovšem dospělosti dožily pouze dvě dcery.
Vláda
V roce 1705 zdědil po svém otci soustátí v nelehké situaci: v té době již byly v plném proudu války o španělské dědictví, během nichž Josef I. podporoval (nakonec neúspěšně) dědické nároky svého mladšího bratra Karla; dokonce se i sám angažoval v poli, když se roku 1702 zúčastnil vítězného obléhání pevnosti Landau držené Francouzi. Kromě španělské politiky se musel věnovat také vnitrostátnímu problému na území Uher. Kvůli povstání tam totiž v té době již přes rok působil v jejich značné části jako vládce sedmihradský kníže František II. Rákóczi.
Hospodářská situace zemí monarchie nebyla příznivá. V důsledku dlouhodobých válek vzrůstalo daňové zatížení poddaných, což způsobovalo nespokojenost širokých vrstev obyvatelstva. Na panovnickém dvoře vládla byrokracie, úplatkářství a protekce.
Sedmadvacetiletý Josef byl však už schopným vládcem odhodlaným k radikálním opatřením. Jako po všech stránkách dobře vzdělaný a zároveň rozhodný člověk zároveň hodlal uskutečnit mnoho reforem v oblasti finanční, soudní a dalších. Začal u vlastního dvora, když výrazně zúžil a omladil okruh svých spolupracovníků. Posiloval centrální řízení státní byrokracie a reformy začaly i v oblasti daňového systému. Na mnoho jím zamýšlených plánů však nedošlo.
V témže roce jej uherský onódský sněm sesadil z trůnu, Josef ovšem zahájil mírová jednání, jimiž si nakonec znovu získal oporu proti stavovské rebelii. V roce 1711 se již situace zdála stabilizovaná. Válku o španělské dědictví doprovázela řada úspěchů (které se až později ukázaly jako pouze dočasné) a povstalecký problém v Uhrách byl konečně vyřešen uzavřením szatmárského míru.
Smrt a pohřeb
Do vývoje však zasáhla nenadálá panovníkova smrt způsobená neštovicemi. Přerušil se tak reformní proces v monarchii, na který později navázal především Josefův jmenovec, toho jména Druhý.
Josef I. zemřel ve Vídni a byl zde pochován v Císařské hrobce (sarkofág č. 35 v Karlově hrobce). Na rakvi je latinský nápis, jehož český překlad zní: Světu propůjčen 1678, království uherskému 1687, římské říši 1690, Amalii Wilhelmině 1699, římskému císařství, Čechám, provinciím atd. 1705, nebesům navrácen v roce 1711, 17. dubna. Vždy a všude vítězný. Jeho srdce bylo uloženo v urně č. 12 v Hrobce srdcí (Herzgruft) v augustiniánském kostele a vnitřnosti v urně č. 42 ve Vévodské hrobcesvatoštěpánské katedrály.
VONDRA, Roman. České země v letech 1705–1792 : doba absolutismu, osvícenství, paruk a třírohých klobouků. Praha: Libri, 2010. 384 s. ISBN978-80-7277-448-7.
S: také španělský infant T: také toskánský princ M: také modenský princ P: také portugalský infant B: také belgický princ kurzívou jsou rakouští panovníci