O'Ferrall deltog i amerikanska inbördeskriget och befordrades till överste i det konfedererade kavalleriet. Juridik studerade han vid Washington College (numera Washington and Lee University) och inledde sedan sin karriär som advokat i Harrisonburg. År 1884 tillträdde han som kongressledamot efter att framgångsrikt ha överklagat valresultatet i föregående kongressval. Motståndaren John Paul hade i det skedet redan avgått som kongressledamot. I december 1893 avgick O'Ferrall sedan själv efter att ha vunnit guvernörsvalet i Virginia.[2]