Nacque a Coira e imparò a dipingere prima da suo padre Johann Joseph Byss, e successivamente da Johann Heinrich Roos, di cui conosceva bene i figli.[1] I lavori più importanti di Byss furono eseguiti durante il suo soggiorno a Praga. Per completare i suoi studi si recò in Germania, Inghilterra e Paesi Bassi nel 1680. Nel 1689 divenne pittore di corte del conte Hermann Jakob Cern. Nello stesso anno, sposò Maximiliana Wagner.[2]
Johann Rudolf Byss è accreditato di aver portato lo stile classico olandese e italiano nella sfera artistica di Praga. Queste influenze sono chiaramente presenti nel suo dipinto del 1691 "Giovanni di Dio" e nella "Vestale Claudia Quinta" del 1692.[2]
Johann Rudolf Byss ottenne la cittadinanza di Praga nel 1692. Due anni dopo, venne inserito nella corporazione dei pittori, della quale in seguito divenne maestro.[2] È noto per le opere religiose e le nature morte di fiori, ed ebbe come allievo Johann Adalbert Angermeyer.[1] Si ritiene che Johann Rudolf Byss sia stato anche l'insegnante del pittore tedesco Johann Michael Bretschneider (1680-1729).
Nel 1713 dipinse l'affresco del soffitto dello scalone principale del Castello di Weißenstein. In seguito divenne direttore della galleria di dipinti di quel palazzo e nel 1719 fece stampare il catalogo. Questo è stato il primo catalogo di gallerie tedesche ad essere stampato.[3]