Davis gick i skola i Jefferson Davis High School i Montgomery. Han studerade därefter vid Harvard där han 1990 avlade grundexamen och 1993juristexamen.
Davis utmanade sittande kongressledamoten Earl F. Hilliard i demokraternas primärval inför kongressvalet 2000. Hilliard vann klart. Davis utmanade Hilliard på nytt två år senare och vann primärvalet med 54% av rösterna. Han vann sedan själva kongressvalet med 92% av rösterna i och med att republikanerna inte ställde upp någon motkandidat.