Sultánem se stal jako nejstarší syn Mehmeda II. Ze začátku musel ale o vládu bojovat se svým mladším bratrem Džemem, který nakonec zemřel v exilu v roce 1495.
Během své vlády Bájezíd II. konsolidoval Osmanskou říši, úspěšně vybojoval s Benátkami území současného Řecka a pobřeží Jaderského moře, přičemž musel zároveň čelit z východní strany perské říši Safíovců a na jižní straně mameluckému sultánu Kajtbájovi (ovládal území zhruba dnešního Blízkého východu a Egypta). Nakonec pod tlakem abdikoval na trůn ve prospěch svého nejmladšího syna Selima I. Krátce poté za nevyjasněných okolností zemřel.