Osman oli Ikonioni sultanaadi piirimaakonna valitseja, türkmeeni hõimupealiku Ertuğruli poeg. Ta sai isa surma järel 1281 selle maakonna (beilik'i) valitsejaks ning Ikonioni sultanaadi lagunedes Osmanite beiks. Osmani esivanemad pärinevad oguusi turkidest, kes olid pärit Kayi suguharust.