Андрей — старший из двух сыновей Марины и Александра Голубевых; его брата зовут Денис. Семейство Голубевых долгое время жило в городе Волжский, Волгоградская область, но когда Андрею было 15 лет переехало в Италию: в город Бра.
Голубев в теннисе с шести лет. Любимое покрытие — быстрый хард; лучшие удары — форхенд и подача.
В январе 2008 года в немецком Хейлбронне Андрей выиграл свой первый «челленджер», обыграв в финале немцаФилиппа Петшнера — 2-6 6-1 3-1, отказ. Голубев начал свой путь на этом турнире с квалификации, таким образом он одержал 8 побед подряд.
Летом 2008 года Андрей Голубев, вместе с группой других теннисистов (Ксения Первак, Ярослава Шведова, Галина Воскобоева, Михаил Кукушкин и Евгений Королев) поменяли гражданство на казахстанское. Также Андрей дебютировал за команду Казахстана в Кубке Дэвиса. Это позволит ему приобрести ценный международный опыт на уровне сборных команд.
Финалист Открытого чемпионата Санкт-Петербурга 2008 года, в финале уступил 4-й на тот момент ракетке мира Энди Маррею 1-6 1-6. Начинал этот турнир с квалификации и одержал до финала 7 побед за 8 дней. Стал первым казахстанским теннисистом, добравшимся до финала турнира АТП в одиночном разряде.
Через 2 недели после финала в Санкт-Петербурге Голубев выиграл в Астане свой второй «челленджер», победив в финале француза Лорана Рекудера со счётом 1-6 7-5 6-3.
В июле 2009 года Андрей играл в финале грунтового «челленджера» в итальянском Реканати, но уступил в 2 сетах швейцарцу Штефану Боли.
В июле 2010 года победил на турнире АТП в Гамбурге, став первым в истории теннисистом из Казахстана, выигравшим турнир АТП. За 6 матчей на турнире Андрей не проиграл ни сета, обыграв в том числе 6-ю ракетку мира Николая Давыденко (6-4 6-4), а в финале победив 15-ю ракетку мира Юргена Мельцера. В октябре отметился неплохим результатом на турнире в Куала-Лумпуре, где вышел в финал, обыграв первого сеянного Робина Сёдерлинга, но уступив в решающем матче россиянину Михаилу Южному на тай-брейке третьего сета.
Голубев на Открытом чемпионате США 2013 года
В 2013 году выиграл 2 «челленджера» в Марбурге и Тюмени.
После 2015 года результаты Голубева пошли на спад, с марта 2015 года он ни разу не входил в топ-100 мирового рейтинга в одиночном разряде, после 2016 года выпал и из топ-200. В марте 2016 года одержал свою шестую в карьере победу на «челленджере», обыграв в финале в шведском Йёнчёпинге 19-летнего Карена Хачанова на трёх тай-брейках.
Голубев не выступал на уровне ATP и ITF с июля 2017 года по апрель 2019 года, но затем в возрасте 31 года решил возобновить карьеру[2].
В 2019 году Голубев стал активно выступать в парном разряде, в основном вместе со своим ровесником Александром Недовесовым. В июле 2019 года Голубев и Недовесов выиграли «челленджер» в Нур-Султане, а в сентябре — ещё один «челленджер» в Стамбуле.
В начале 2020 года Голубев впервые с 2016 года вошёл в топ-150 мирового парного рейтинга. В январе 2020 года Голубев и Недовесов выиграли «челленджер» в Бангкоке, а в начале февраля выиграли ещё один «челленджер» во французском Кемпере. Для Голубева эта победа стала 10-й в карьере на «челленджерах» в парном разряде.
В августе 2020 года Голубев в паре с уругвайцем Ариэлем Беаром выиграл два «челленджера» на грунте в Италии (Тоди и Триест), отдав в 6 матчах только один сет. В сентябре 2020 года Голубев впервые с мая 2015 года вошёл в топ-100 мирового парного рейтинга. В ноябре выиграл ещё один «челленджер» в паре с Недовесовым в американском Орландо. 2020 год Голубев закончил на 88-й позиции парного рейтинга, второй раз в карьере войдя в топ-100 по итогам сезона.
На Открытом чемпионате Австралии 2021 года попал в основную сетку в парном разряде и вместе с Александром Бубликом во втором круге обыграл первую сеянную пару Хуана Себастьяна Кабаля и Роберта Фара (6-4, 6-4). Однако в третьем круге казахстанцы уступили Марсело Аревало и Матве Мидделкопу. В апреле выиграл «челленджер» на грунте в Хорватии вместе с Недовесовым. В мае ещё на одном «челленджере» в Хорватии дошёл с Недовесовым до финала, где уступил американской паре.
На Открытом чемпионате Франции 2021 года вновь играл вместе с Бубликом и сенсационно смог дойти до финала. Во втором круге казахстанцы в двух сетах обыграли пятую сеянную пару Иван Додиг и Филип Полашек, а затем обыграли 11-ю сеянную пару Уэсли Колхоф и Жан-Жюльен Ройер. В полуфинале казахстанцы со счётом 1-6, 6-4, 6-4 обыграли испанцев Пабло Андухара и Педро Мартинеса. Ранее Голубев за карьеру лишь один раз играл в финале турнира ATP в парном разряде в 2014 году. В финале против французов Эрбера и Маю Бублик подавал на матч при счёте 6-4, 5-4, но не удержал подачу, французы в итоге победили 4-6, 7-6(1), 6-4.
На Уимблдонском турнире 2021 года Голубев в паре с Робином Хасе дошли до третьего круга. На Олимпийских играх в Токио в мужском парном разряде Голубев и Бублик уже в первом круге проиграли французам Жереми Шарди и Гаэлю Монфису В миксте Голубев играл с Ярославой Шведовой и также вылетел в первом круге от местной японской пары. На Открытом чемпионате США Голубев в паре с Андреасом Мисом было посеян под 15-м номером и дошёл до третьего круга. Все 4 результата на турнирах Большого шлема 2021 года стали для Голубева лучшими в карьере. В октябре Голубев и монегаск Юго Нис дошли до финала турнира ATP 250 в Санкт-Петербурге, где проиграли паре Джейми Маррей и Бруно Соарес.
В марте 2022 года Голубев дошёл до полуфинала Мастерса в Майами вместе с Александром Зверевым, где уступил американской паре Джон Изнер и Джек Сок (3-6, 2-6). В мае Голубев вместе с Максимо Гонсалесом дошёл до полуфинала турнира серии Masters 1000 в Риме, где проиграл паре Джон Изнер и Диего Шварцман — 4-6, 6-4, [9-11]. 16 мая 2022 года Голубев поднялся на высшее в карьере 21-е место в парном рейтинге.