Khan syntyi islamiin kääntyneeseen muusikkosukuun khyallaulaja Kale Khanin vanhimpana poikana. Hän sai opetusta isältään ja tämän kuoltua Abdulla Khanilta sekä Haider Khanilta. Myöhemmin hän sai vaikutteita Gwalior gharanan Rahamat Khanilta ja omaksui myös joitain karnaattisen musiikin piirteitä. Hän palveli Barodan hovissa.[1]