Zunächst hatte Dove vor, wie sein Vater Polizist zu werden, sang aber schon als Highschool-Absolvent in einer Rockgruppe. Später trat er in Clubs in Baltimore auf und gründete, nachdem er einige Zeit bei der Küstenwache tätig gewesen war, die Gesangsgruppe The Bell-Tones (später auch Beltones). Die Band wurde besonders an der Ostküste populär und veröffentlichte 1959 und 1961 zwei Singles. Die erste wurde in Eigenproduktion mit den Titeln Lover Boy / I Will be Around unter Dove RINC 1021 auf den Markt gebracht, die zweite, Party Doll / Yes Darling, I’ll be Around, erschien bei Decca unter 31288.
1964, nachdem er die Beltones verlassen und sich in Nashville niedergelassen hatte, schloss Dove einen Plattenvertrag mit der New Yorker Plattenfirma Diamond ab. Im Frühjahr 1964 brachte Diamond die erste Dove-Single mit den Titeln Sweeter Than Sugar / I Believed in You (Nr. 193) auf den Markt. Diese brachte zunächst keinen Erfolg, er stellte sich aber mit der zweiten Platte ein. Der Titel Say You (Nr. 167) wurde in den Billboard Hot 100 im Juli 1964 erstmals notiert und erreichte als beste Platzierung Rang 40. Damit eröffnete Dove einen Reigen von Erfolgstiteln, der sich bis 1967 erstreckte. Seine erfolgreichsten Songs waren Right or Wrong (1964) und One Kiss for Old Times' Sake (1965), die beide bis auf Platz 14 vorstießen. Allein 1966 konnte sich Dove mit fünf Titeln unter den Top 40 platzieren. Zum letzten Mal wurde er im Mai 1969 mit I Need You Now in den Hot 100 notiert (93.).
Nach einem kurzen Zwischenspiel bei Certron Records, New York, wo unter anderem 1970 die Langspielplatte Greatest All-Time Hits erschien, bekam Dove 1971 einen Plattenvertrag bei Decca/MCA und begann sich nun vorwiegend auf Countrymusik zu konzentrieren. Mit Kiss the Hurt Away (61.) und Lilacs in Winter (69.) konnten sich zwei Singles in den Countrycharts platzieren. 1975 wechselte Dove erneut die Plattenfirma und unterschrieb bei Melodyland/Hitsville, dem Country-Label von Motown, Detroit. Dort kam es bis 1976 zu sechs Single-Produktionen, von denen sich der 1975er Titel Things zu Doves erfolgreichstem Country-Song entwickelte. Er kam auf Platz 25 der Country-Charts. 1987 reaktivierte Dove Diamond Records, erwarb alle Rechte an seinen Diamond-Produktionen und brachte noch einmal zwei Country-Singles heraus, die sich beide wieder in den Country-Charts platzierten.
Anschließend zog sich Dove aus dem Plattengeschäft zurück. Neben Auftritten in Radio- und Fernsehshows engagierte er sich für geistig behinderte Menschen. Er betrieb einen Nachtklub und wandte sich dem Golfsport zu. Zwischen 1989 und 1991 kümmerte er sich um seine schwerkranke Mutter. Erst nach deren Tod brach er noch einmal zu einer großen Tournee durch die Staaten und Kanada auf.