Urodzony i wychowany w Odense, mający szlacheckie pochodzenie, Gustav Rasmussen przeszedł klasyczną wówczas karierę dyplomatyczną, ze studiami prawniczymi i późniejszym zatrudnieniem w służbie zagranicznej. Tu szybko zrobił karierę i stał się jednym z najzdolniejszych dyplomatów służby.
W czasie okupacji był radcą poselstwa w ambasadzie w Londynie, gdzie współpracował z duńskim środowiskiem emigracyjnym.
Od 7 listopada 1945 do 30 października 1950 minister spraw zagranicznych Danii (jako jedyny bezpartyjny na tym stanowisko po II wojnie światowej). Później pełnił funkcję ambasadora Danii we Włoszech.