Čelůstka begon zijn carrière bij Tescoma Zlín, waar hij ook zijn jeugdopleiding had doorlopen. Na vierentwintig wedstrijden verkaste de verdediger naar Slavia Praag. Op 1 februari 2010 nam Palermo de Tsjech op huurbasis over. Hij speelde echter slechts één duel en na zijn terugkeer werd hij op 8 juli 2011 verkocht aan Trabzonspor, waar hij voor vijf jaar tekende.[1] Op 14 september 2011 was hij verantwoordelijk voor de enige treffer op bezoek bij Internazionale in de UEFA Champions League.[2] Op 12 augustus 2013 werd hij verhuurd aan Sunderland.[3] Na dit seizoen in Engeland nam 1. FC Nürnberg de Tsjechische verdediger over.[4] Čelůstka verkaste na één seizoen naar Antalyaspor.[5] In de zomer van 2020 keerde Čelůstka terug naar Tsjechië, waar hij voor drie jaar tekende bij Sparta Praag.[6] Medio 2023 nam Bodrum de verdediger transfervrij over.[7]
Čelůstka debuteerde op 15 november 2013 in het Tsjechisch voetbalelftal. Op die dag werd een vriendschappelijke wedstrijd tegen Canada met 2–0 gewonnen. De verdediger mocht in de basis beginnen en speelde het gehele duel mee. In de derde minuut was hij verantwoordelijk voor de openingstreffer.[9] Na een afwezigheid van bijna drieënhalf jaar keerde de verdediger in maart 2017 terug in het nationale elftal.
In mei 2021 werd Čelůstka door bondscoach Jaroslav Šilhavý opgenomen in de Tsjechische selectie voor het uitgestelde EK 2020.[10] Op het toernooi werd Tsjechië in de kwartfinale uitgeschakeld door Denemarken (1–2). Daarvoor had het in de groepsfase gewonnen van Schotland (0–2), gelijkgespeeld tegen Kroatië (1–1) en verloren van Engeland (0–1). In de achtste finale werd Nederland uitgeschakeld met 0–2. Čelůstka speelde in alle vijf wedstrijden mee. Zijn toenmalige teamgenoten Adam Hložek (eveneens Tsjechië) en Dávid Hancko (Slowakije) waren ook actief op het EK.
.svg){kind=small}
.svg){kind=small}
.svg){kind=small}
