Gata ble anlagt med navnet New Street kort tid etter 1150 av tempelridderne, som trengte en vei mellom sitt gamle hovedkvarter i Holborn og sitt New Temple.[1] I 1232 grunnla Henrik IIIDomus Conversorum («Konvertitthuset») ved New Street. Her ble jødiskekonvertitter holdt internert for å undervises i kristendom.[2] Det var også under Henrik III at juridiske institusjoner fant veien til New Street, og Inns of Chancery (som er en sammentrekning av chancellery) ble grunnlagt som juridiske undervisningssteder.[3] Fra 1400-tallet fikk gatenavnet Chancery Lane innpass. Etter borgerkrigen opphørte Inns of Chancerys betydning som juridiske læreanstalter, og tjente i stedet som lokaler for profesjonsklubber.
Mot slutten av 1700-tallet antok Chancery Lane en mer bymessig karakter, og fra denne tiden stammer de mange georgianske bygningene som i dag preger strøket. Chancery Lane tiltrakk mange advokater, og som en ringvirkning også parykkmakere, pengeskapsmeder og forhandlere av juridisk faglitteratur. I løpet av 1800-tallet stengte Inns of Chancery en etter en, og vek plassen for offentlige kontorer med tilknytning til rettsvesenet. Den siste Inn of Chancery (Clifford’s Inn) ble solgt i 1903.[4]
Public Record Office – som i dag er overtatt av King's Colleges Maughan Library[5] – ble bygd ut etappevis i løpet av andre halvdel av 1800-tallet. Det britiske patentkontoret ble opprettet i 1852 med sete i Southampton Buildings, som også huset Secretaries of Banckrupts and Lunatics (sekretariatet for konkurser og sinnslidende). Patentkontoret flyttet ut av Chancery Lane på slutten av 1990-tallet. I nr. 113 ligger Law Society of England and Wales.[6]
En spesiell turistattraksjon i Chancery Lane er London Silver Vaults, et underjordisk lager for eldre og nyere sølvgjenstander. Hvelvet åpnet i 1885 som et trygt oppbevaringssted for verdier, men ble snart et trygt salgssted for Londons sølvvare- og smykkehandlere. Den nåværende bygningen åpnet i 1953.[7] Hvelvet er åpent for publikum, og her kan en også få kjøpt sølv av sølvsmeder som stiller ut varene sine.