Kósa Vilmos ügyvéd és Windt Olga (1868–1930)[2] fia. Édesanyja fontosnak tartotta fia zenei neveltetését, ezért már gyerekként elkezdhette zenei tanulmányait. Zongoratanárnője hétéves korában bemutatta Bartók Bélának, aki azonnal felfigyelt tehetségére. 1905-től 1916-ig a Zeneakadémián tanult, ahol zeneszerzés-tanára Siklós Albert, Herzfeld Viktor és Kodály Zoltán, zongoratanára Bartók Béla és Dohnányi Ernő volt. Első művét, a Boszorkánytánc című scherzót 1915-ben mutatták be. Diplomája megszerzése után, 1916-ban a budapesti Operaház korrepetitora lett, ahol részt vett Bartók Fából faragott királyfi című táncjátéka bemutatójának előmunkálataiban. 1917-től zongoraművészként hangversenyezett – először Vecsey Ferenc és Koncz János hegedűművészek zongorakísérőjeként, majd szólóban – Magyarországon, Németországban, Ausztriában, Olaszországban és Afrikában. 1920-tól 1920-ig a tripoliszi színház karmestere volt. 1922-ben Dohnányi Ernő mutatta be Hat darab című művét, amit később, 1925-ben Erich Kleiber karmester is előadott a prágai IGNM (Internationale Gesellschaft für Neue Musik) fesztiválon. Az 1920-as években részt vett a Modern Magyar Muzsikusok társaságának megalapításában (Kadosa Pállal, Kelen Hugóval, Szabó Ferenccel és Szelényi Istvánnal). 1927-től 1960-ig a Zeneművészeti Főiskola zongoratanára volt. 1944-ben munkaszolgálatoskéntFertőrákosra hurcolták. Távollétében, 1944 végén, feleségét és Jutka nevű kislányát a nyilasok meggyilkolták. Fia, Kósa Gábor szintén zeneszerző és hangszeres művész (ütőhangszerek, zongora, orgona, csembaló), aki testvérével együtt sokat tevékenykedik apja hagyatékának ápolása terén.
Első felesége Molnár Mária (1899–1944) szobrász-grafikus volt, akivel 1921. október 8-án Budapest I. kerületében kötött házasságot.[3] Második felesége egykori tanítványa, Ferch Stella volt, akitől két fia (Márton és Gábor) született. 1955-ben elhunyt második felesége. Harmadszor is megnősült, s nőül vette Kepes Annát.
