James Lloyd besuchte zunächst die Lateinschule in Boston und später dann das Harvard College, wo er 1787 seinen Abschluss machte. In der Folge schlug er eine Berufslaufbahn als Kaufmann ein, wobei er sich besonders auf den Außenhandel spezialisierte.
Neun Jahre später, am 5. Juni 1822, kehrte Lloyd in den Senat zurück; diesmal war seiner Wahl der Rücktritt von Harrison Gray Otis vorausgegangen. Er bewarb sich erfolgreich um die Wiederwahl und legte sein Mandat schließlich am 23. Mai 1826 zum zweiten Mal nieder. Während seiner Zeit als Senator stand er unter anderem dem Marineausschuss (Committee on Naval Affairs) vor. Er zog sich danach aus der Politik zurück und lebte in Philadelphia.
