Dopo l'università, Ogilvy lavorò presso la Drayton company, poi lavorare con il magnate Tiny Rowland nella supervisione di Drayton, London e Rhodesia Mining e Land Company (Lonrho). Il Primo Ministro, Edward Heath, criticò la società e la descrisse nella Camera dei Comuni come "una faccia sgradevole e inaccettabile del capitalismo" in un caso giudiziario del 1973. La sua carriera si concluse nel 1976 dopo essere stato criticato dal Dipartimento del Commercio in relazione alle attività della società[2].
La regina aveva offerto a Ogilvy il titolo di conte in occasione del matrimonio, ma egli rifiutò. Egli rifiutò anche un appartamento in uno dei Palazzi Reali. Invece prese in affitto Thatched House Lodge a Richmond per lui e la moglie e dove la principessa vive ancora oggi. Tuttavia Alexandra mantenne un appartamento a St. James's Palace. Ebbero due figli:
Marina Victoria Alexandra Ogilvy (31 luglio 1966), sposò Paul Mowatt (divorziarono nel 1997), ebbero due figli.
Dopo che la sua carriera terminò disastrosamente, Ogilvy aiutò la moglie dei suoi doveri reali. A volte l'accompagnava nelle sue visite reali all'estero. Nel 1997 fu nominato Consigliere Privato.
Morte
Ogilvy è stato presidente della Imperial Cancer Research Fund e presidente di Youth Club UK, la più grande organizzazione giovanile in Gran Bretagna. È stato anche membro della Royal Company of Archers, guardia del corpo del sovrano in Scozia, in cui suo padre ha servito come uno dei quattro luogotenenti.
Negli anni successivi iniziò a soffrire di un cancro alla gola e quindi era troppo malato per partecipare ai numerosi grandi eventi reali. La sua ultima apparizione pubblica con la moglie è stata nel 2003 quando ha accompagnato la principessa Alexandra in Thailandia per una visita ufficiale.