Han var son av Nicolai Benjamin Aall (1739-98), som var kjøpmann i Porsgrunn og eigar av Ulefoss. Han vart student på Nyborg skule i Danmark1791, og tok teologisk embetseksamen 1795. Etter heimkomsten til Noreg prøvde han seg som geistleg talar i Slemdal kyrkje, men han fekk slik mistillit til sine evner at han slo inn på andre studiar. 1796 reiste han tilbake til København, der han byrja naturvitskaplege studiar. Desse vart halde fram i Tyskland1797-99. Under reisa bestemte han seg for å bli praktisk bergmann, og utdanna seg derfor hovudsakleg i Freiberg og ved undersøking av saksiske og schlesiske gruver.
I 1799 vende han tilbake til Noreg, der faren nettopp var død, og kjøpte Nes jernverk i Holt for 170 000 riksdalar. Same år gifta han seg med Lovise Andrea Stephansen (1779-1825). Han let ein meir rasjonell drift innføre ved jernverket, men kom i ein vanskeleg stilling då det braut ut krig i 1807. Han gjorde mykje for å halde si eiga verksemd gåande, men hjelpte òg i stor grad å halde hungersnauda borte frå innbyggjarane i store område rundt.
Verksemda hans gjorde han kjend med grev Herman Wedel Jarlsberg. I august 1809 vart han innvigd av greven i planane om å lausrive Noreg frå Danmark og gå inn i ei ny foreining med Sverige, men han nekta å følgje greven i dette. På riksforsamlinga1814 møtte han som representant for Nedenes amt, og slutta seg til Wedels parti, sjølv om han var sterkt knytt til Danmark av både personlege og økonomiske årsaker.
Om hausten 1814 skal han ha fått tilbod om å tre inn i den nye regjeringa, men avslo. Derimot møtte han som representant for Nedenes amt på alle Storting til og med 1830 (med unntak av det i 1824), men då han vart vald i 1839, måtte han avslå med omsyn til helsa. Som stortingsmann gjorde han seg særleg gjeldande i praktiske spørsmål. I alle økonomiske spørsmål rådet han til forsiktig og langsam framgang utan å slite for mykje på kreftene til landet. Han hadde ein vesentleg del i den nye bergverkslovgjevnaden, og via sølvverket på Kongsberg stor interesse.
Som forfattar og mesén viste han ein viktig og fleirsidig verksemd. Han omsette og gav sjølv ut Kongesagaen til Snorre Sturlason (1838-39), og hovudverket hans er Erindringer som Bidrag til Norges Historie 1800-15 (1844-45). Han handsama dessutan økonomiske spørsmål i mindre arbeid.
I sine siste leveår vart Aall stadig sjukare. Dette førte til at han trekte seg tilbake frå det offentlege livet og overlet det meste av arbeidet med styringa av jernverket til sonen sin. Derimot var han helt til det siste sysselsett med sine litterære arbeid.