Zsigmondy lahir dari Irma von Szakmary dan Adolf Zsigmondy Sr., seorang ilmuwan yang telah menemukan peralatan bedah di bidang kedokteran gigi. Ia dibawa oleh ibunya setelah kematian ayahnya pada tahun 1880 dan menerima pendidikan utuh sambil menikmati kegemaran memanjat dan mendaki gunung dengan saudara-saudaranya. Saudaranya Karl Zsigmondy menjadi matematikawan terkenal di Wina. Di sekolah tinggi ia mengembangkan minat dalam ilmu pengetahuan alam, khususnya dalam kimia dan fisika lalu mulai mengadakan eksperimen di laboratoriumnya sendiri di rumah.
Karier akademiknya bermula di Fakultas Kedokteran Universitas Wina, tetapi segera pindah ke Universitas Teknik Wina lalu ke Universitas München untuk belajar kimia. Di München dosennya adalah von Miller, di mana ia memulai karier ilmiahnya dalam penelitian. Ia kembali ke Austria pada tahun 1893 untuk menjadi profesor pembantu di Graz, yang selama di sana ia menyelesaikan karya penelitian paling terkenalnya, karya dalam kimia koloid (kaca dengan warna tertentu). Pada tahun-tahun terakhir ia meneliti hidrosol emas dan mengembangkan ultramikroskop.
Karier ilmiahnya berlanjut di Gottingen, Jerman, sebagai profesor kimia di mana ia mengerjakan karier terakhir ilmiahnya. Pada tahun 1925 Zsigmondy dianugerahi Penghargaan Nobel dalam Kimia untuk karyanya dalam koloid selama di Graz.
Ia meninggal beberapa tahun setelah pensiun dari Goettingen.
