Di origine irlandese, figlio di un poliziotto - suo padre Dan fu anche il capo della polizia di San Francisco nonché colui che ordinò l'arresto di Roscoe "Fatty" Arbuckle nel 1921 - il giovane George nel 1917 si arruolò volontario nella Marina e combatté durante la prima guerra mondiale all'entrata degli Stati Uniti nel conflitto.
Rientrato dalla guerra, dopo un'esperienza come pugile che lo vide campione dei mediomassimi della flotta americana nel Pacifico, O'Brien si recò a Hollywood per tentare la carriera di cameraman e lavorò come assistente in film interpretati da Tom Mix e Buck Jones. Ottenne alcuni ingaggi come stuntman, iniziando così in sordina la sua carriera di attore. Nel 1922 ebbe una piccola parte accanto a Rodolfo Valentino in Il mozzo dell'Albatros, ma la svolta giunse nel 1924 quando John Ford, nel suo lungometraggioIl cavallo d'acciaio, gli affidò il ruolo del giovane protagonista Davy Brandon. Ford, come più tardi farà con John Wayne, si affidò all'eclettismo di O'Brien, al suo vigore fisico e atletico oltreché, soprattutto, alla sua irlandesità.
I suoi film lo resero popolarissimo tra gli adolescenti, così come il suo cavallo Mike; a fianco a sé ebbe giovani attici destinate a diventare autentiche star come Laraine Day, Myrna Loy e Rita Hayworth, ma il cinema western degli anni trenta, malgrado gli incassi consistenti, non era particolarmente considerato dai critici. O'Brien, pur vantando una vasta popolarità, non riuscì a staccarsi da un genere fatto di cow-boys poco realistici che puntavano tutto sulla loro prestanza fisica e le loro abilità nell'esibirsi nel rodeo. Erano spesso lindi, eleganti, gentili come Harry Carey, Jack Holt, William Boyd, Fred Scott, Tom Tyler e altri ancora, o addirittura canterini come Ken Maynard, Roy Rogers, Gene Autry. Tutti comunque molto distanti dal cliché dell'uomo della prateria rude e polveroso che prenderà piede negli anni quaranta, facendoli considerare tutti attori di B-movie seriali, anticipatori di quel genere di film per ragazzi che si diffonderanno con l'avvento del mezzo televisivo.
Il western moderno e il declino
Nel 1939, con l'uscita di Ombre rosse di Ford, il genere western cambiò completamente struttura e l'ormai quarantenne O'Brien, a differenza di altri tre idoli del cinema di frontiera della sua generazione come Gary Cooper, Joel McCrea e Randolph Scott, non si trovò più a suo agio nei panni dell'aitante protagonista. Si arruolò di nuovo volontario e nuovamente in Marina con l'entrata in guerra degli Stati Uniti e, al suo ritorno, sarà l'amico John Ford a ricordarsi di lui coinvolgendolo in due pellicole della famosa trilogia della cavalleria, Il massacro di Fort Apache (1948) e I cavalieri del Nord Ovest (1949), e affidandogli ruoli di caratterista di lusso nei panni di ufficiali al crepuscolo. Dopo una parentesi televisiva, ancora Ford gli affidò il ruolo del Maggiore Braden ne Il grande sentiero (1964), che fu l'ultimo film di O'Brien prima del ritiro definitivo dal mondo del cinema.