1957 übernahm er als Nachfolger von Antonín Zápotocký auch das Amt des Staatspräsidenten. Mit seinem Namen verbindet sich die harte Repressionspolitik der frühen 1950er Jahre, aber vor allem auch die Fortsetzung der stalinistischen Linie bis weit in die 1960er Jahre hinein.
Es gab einen nicht öffentlichen Machtkampf zwischen ihm und dem langjährigen Innenminister Rudolf Barák, der im Februar 1962 verhaftet wurde, alle seine Partei- und Regierungsposten verlor und aus der KSČ ausgeschlossen wurde. Die KSČ entschied, seinen Fall als kriminelle Tat darzustellen; Barák wurde aufgrund von konstruierten Beschuldigungen zu 15 Jahren Haft verurteilt.[1]
Im Zuge der allgemeinen Liberalisierung ab 1964 nahm die Kritik an Novotný immer stärker zu. Zu Beginn des Prager Frühlings wurde er am 5. Januar 1968 zum Rücktritt als Parteichef und am 22. März auch zum Rücktritt als Präsident gezwungen. In der ersten Funktion folgte ihm Alexander Dubček nach, in der zweiten Ludvík Svoboda.
Im Juni 1968 wurde er aus dem Zentralkomitee der Kommunistischen Partei ausgestoßen; er meldete bei zwei Besuchen bei der sowjetischen Führung unter Leonid Breschnew, die KP unter Dubček stehe kurz davor, das Machtmonopol der KP aufzugeben.[2]