Ο Ερνστ Ρούσκα γεννήθηκε στη Χαϊδελβέργη και σπούδασε στο Τεχνικό Πανεπιστήμιο του Μονάχου από το 1925 έως το 1927. Κατόπιν εγγράφηκε στο Τεχνικό Πανεπιστήμιο (Πολυτεχνείο) του Βερολίνου, όπου για πρώτη φορά εξέφρασε την ιδέα ότι ένα μικροσκόπιο που θα λειτουργούσε με βάση τα ηλεκτρόνια αντί για το φως θα μπορούσε να δώσει πολύ υψηλότερη μεγέθυνση ενός αντικειμένου από όσο ένα μικροσκόπιο που χρησιμοποιεί το φως, στο οποίο η μεγέθυνση περιορίζεται από το μεγάλο σχετικώς μήκος κύματος του φωτός. Το 1931 επέδειξε ότι ένα πηνίο μπορούσε να δράσει ως ένας ηλεκτρονιακός φακός και έτσι, χρησιμοποιώντας πολλά πηνία σε σειρά, κατασκεύασε το πρώτο ηλεκτρονικό μικροσκόπιο το 1933.
Το ίδιο έτος ο Ρούσκα τελείωσε τις διδακτορικές σπουδές του και συνέχισε να ασχολείται με το πεδίο της ηλεκτρονιακής οπτικής, πρώτα στη Fernseh AG στο Τσέλεντορφ του Βερολίνου και μετά, από το 1937, στη Siemens-Reiniger-Werke AG. Εκεί συμμετέσχε στην ανάπτυξη του πρώτου ηλεκτρονικού μικροσκοπίου του εμπορίου, το 1939. Εκτός από την εργασία του στη Siemens, ο Ρούσκα εργάσθηκε και σε άλλα επιστημονικά ιδρύματα, ενώ ενεθάρρυνε και τη Siemens να δημιουργήσει ένα εργαστήριο για επισκέπτες ερευνητές, το οποίο ο πρώτος επικεφαλής ήταν ο αδελφός του, ο Χέλμουτ Ρούσκα, ο οποίος ήταν ιατρός και ανέπτυξε τη χρήση του ηλεκτρονικού μικροσκοπίου σε ιατρικές και βιολογικές εφαρμογές.
Ο Ερνστ Ρούσκα παραιτήθηκε από την εταιρεία το 1955, προκειμένου να γίνει διευθυντής του Ινστιτούτου Ηλεκτρονικής Μικροσκοπίας στο Ίδρυμα Φριτς Χάμπερ, θέση στην οποία παρέμεινε έως το 1974. Παραλλήλως ήταν καθηγητής στο Τεχνικό Πανεπιστήμιο (Πολυτεχνείο) του Βερολίνου (1957-1974).
Το 1960 τιμήθηκε με μια σημαντική διάκριση στον χώρο της ιατρικής, το Βραβείο Λάσκερ.[16] Το 1986 μοιράσθηκε το Βραβείο Νόμπελ Φυσικής για τα επιτεύγματά του στην ηλεκτρονιακή οπτική με τους νεότερους Γκερτ Μπίνις και Χάινριχ Ρόρερ. Ο Ρούσκα πέθανε στο Δυτικό Βερολίνο σε ηλικία 81 ετών.
Ο αστεροειδής1178 Ιρμέλα (Irmela), που ανακαλύφθηκε από τον Μαξ Βολφ το 1931, πήρε το όνομά του από το όνομα της Ιρμέλα Γκάιγκις-Ρούσκα (Irmela Geigis-Ruska), συζύγου του Ερνστ Ρούσκα, της οποίας ο Βολφ ήταν θείος από την πλευρά της μητέρας της.[17]
Ο Ερνστ Ρούσκα στον ιστότοπο των Βραβείων Νόμπελ (με τη διαλεξή του στην απονομή του Βραβείου με θέμα «Η ανάπτυξη του ηλεκτρονικού μικροσκοπίου και της ηλεκτρονικής μικροσκοπίας»)