Er war der zweitgeborene Sohn des Friedensrichters für Surrey Christopher Rawson aus dessen Ehe mit Frances Emily Wright. Er wurde an der Eastman's Royal Naval Academy und am Marlborough College ausgebildet. 1871 heiratete er Florence Alice Stewart Shaw. Mit ihr hatte er fünf Kinder.
Von 1895 bis 1898 war er Oberbefehlshaber der britischen Flottenstützpunkte Cape of Good Hope Station and West Africa Station. In dieser Funktion war er am 27. August 1896 einer der britischen Kommandeure im nur 38 Minuten dauernden Britisch-Sansibarischen Krieg und war im Februar 1897 hauptverantwortlich für die „Strafexpedition“, die Benin, die Hauptstadt des Königreichs Benin, brandschatzte und plünderte. Die Expedition zerstörte die bis dahin eindrucksvollen Mauern von Benin und raubte eine enorme Zahl von Kunstschätzen und religiösen Artefakten. Die Expedition wurde gleichwohl in britischen Kreisen als eine Aktion disziplinierter und koordinierter Planung gelobt:
„In neunundzwanzig Tagen landete eine Truppe von 1200 Männern aus drei Orten am Benin Fluss, wurde organisiert, ausgerüstet und in Marsch gesetzt. Fünf Tage später war die Stadt Benin eingenommen und nach zwölf Tagen die Männer wieder eingeschifft, die Schiffe beheizt und für weitere Einsätze vorbereitet.“
Vom 27. Mai 1902 bis zum 27. Mai 1909 amtierte er als Gouverneur von New South Wales. Seit William Bligh war er der erste Marineoffizier, der diesen Posten innehatte. Während seiner Zeit als dortiger Gouverneur stiftete er 1906 den Rawson Cup, um den bis heute die vier Colleges der University of Sydney (St John’s College, St Andrew's College, Wesley College und St Paul’s College) in acht Sportarten kämpfen.
Leonard George Carr Laughton: Rawson, Harry Holdsworth. In: Sidney Lee (Hrsg.): Dictionary of National Biography. Suppl. 2, Band1: Abbey – Eyre. MacMillan & Co, Smith, Elder & Co., New York City / London 1912, S.167–168 (englisch, Volltext [Wikisource]).
↑L. G. C. Laughton, revised by Andrew Lambert: Rawson, Sir Harry Holdsworth. In: Henry Colin Gray Matthew, Brian Harrison (Hrsg.): Oxford Dictionary of National Biography, from the earliest times to the year 2000 (ODNB). Oxford University Press, Oxford 2004, ISBN 0-19-861411-X; doi:10.1093/ref:odnb/35692 (Lizenz erforderlich), Stand: 2004.