Карлос Билардо е роден в едно от предградията на Буенос Айрес в семейството на сицилиански имигранти. Започва кариерата си в отбора на Сан Лоренцо де Алмагро с който става шампион на Аржентина през 1959 г. От тази година играе в националния отбор. През 1961 г. носи екипа на втородивизионния Депортиво Еспаньол, където става голмайстор на отбора. Истинските си успехи постига с екипа на Естудиантес с който печели всички трофеи в Латинска Америка, сред които три последователни Копа Либертадорес. През 1969 г. печели също Копа Интерамерикана. Превръща се в една от легендите на клуба и заедно със съотборника си Раул Мадеро едновременно с футбола завършват и Факултета по медицина на Университета в Буенос Айрес и се дипломират като лекари. През 1970 г. след края на своята състезателна кариера Билардо става треньор в клуба, като взима със себе си за лекар на отбора бившия си съотборник Мадеро. Двамата работят в екип и когато с Нац. отбор на Аржентина печелят Световно първенство през 1986 г.. До 1976 г. паралелно с футбола проктикува и като гинеколог.
През 1976 г. става треньор на Депортиво Кали и след двегодишен престой успява да класира отбора за турнира Копа Либертадорес, като го извежда до финала, загубен от Бока Хуниорс.
През 1979 г. има кратък престой в Сан Лоренцо, а след това става треньор на Колумбийския националния отбор. Не успява да класира отбора за Мондиал 82 и е уволнен след което се завръща отново в Естудиантес. През 1982 г. печели шампионат Метрополитано.
