1998 року прийняв пропозицію Аргентинської футбольної асоціації очолити національну збірну цієї країни. Пропрацював з аргентинською збірної до 2004 року. Вивів команду до фінальної частини чемпіонату світу 2002 року, у рамках якої, утім, аргентинці завершили виступи вже на груповому турнірі. 2004 року очолювана Б'єлсою олімпійська збірна Аргентини здобула золоті нагороди на тогорічних Олімпійських іграх. Того ж року досить неочікувано пішов у відставку з позиції очільника національної команди Аргентини.
2007 року був призначений головним тренером національної збірної Чилі. Забезпечив вихід чилійців до фінальної частини чемпіонату світу 2010 року, де збірна цієї країни подолала груповий етап, проте вже на стадії 1/8 фіналу поступилася збірній Бразилії та припинила боротьбу в турнірі.
У лютому 2011 року за власним бажанням залишив роботу в збірній Чилі, того ж року повернувся до клубного футболу, очоливши тренерський штаб «Атлетика» (Більбао), з яким пропрацював до літа 2013 року.
У травні 2014 року було оголошено про призначення Б'єлси новим головним тренером марсельського «Олімпіка». Пропрацював з марсельською командою один повний сезон 2014/2015, в якому команда фінішувала на четвертому рядку турнірної таблиці першості Франції. Після першої ж гри наступного сезону, в якій «Олімпік» програв «Кану», аргентинець подав у відставку, зазначивши наявність розбіжностей з керівництвом марсельського клубу.
6 червня 2016 року був призначений головним тренером італійського «Лаціо», проте вже за два дні, 8 червня, відмовився від виконання контрактних зобов'язань перед цим клубом, назвавши причиною свого рішення невиконання керівництвом клубу обіцянок щодо кадрового підсилення команди.
