Oluf Kolsrud var sønn av Knut Nilssen Kolsrud (1861–1937) og Berte Maria Olsdatter Bakke (1855–1940). Faren var gårdbruker og lærer. Nils Oluf var bror av den senere språkprofessor Sigurd Kolsrud (1888–1957), og giftet seg i 1911 med Borghild Nettum (1850–1931).
I 1916 ble han dosent og i 1921 professor i kirkehistorie. Hans filologiske kunnskaper var imidlertid usedvanlig sterke, han behersket flere språk i en slik grad at han underviste og fungerte som sensor i dem. Disse språkene var italiensk, russisk, polsk, arabisk, gotisk, gammelnorsk, finsk og samisk, i tillegg til kirkeslavisk og de allmenne språk engelsk, tysk og fransk foruten de klassiske teologiske språkene latin, gresk og hebraisk. Kolsrud hadde også avlagt organisteksamen.
Språkkunnskapene var en forutsetning for den omfattende jobben han gjorde som forsker innen kirkehistorie og almenhistorie. Mye av forskningen foregikk på biblioteker, arkiver og i manuskriptsamlinger i Oslo, Stockholm, Uppsala og i Vatikanet. Kolsrud hadde opp igjennom årene en stor produksjon av kirkehistoriske studier og gjorde et omgangsrikt arbeid som kildeskriftutgiver. Han opprettet Norsk historisk kjeldeskriftinstitutt i 1922, og drev det helt til han døde i 1945.
Oluf Kolsruds heraldiske arbeider er spesielt monografien Bergen bys segl, vaaben, farver og flag fra 1921, samt artikler om håndverkersegl. Også her utmerket Kolsrud seg som en grundig forsker med omhyggelige kildehenvisninger og referanser til bl.a. utenlandsk faglitteratur. Boken om Bergens bysegl og våpen var den første vitenskapelige avhandling om et norsk kommunevåpen.
Kolsrud var hovedredaktør for "Boka om Land" bind 1 til han døde, men hans arbeid ble videreført av Reidar Th. Christiansen, og boka utkom i 1948.
