Trolle ble født som det tolvte av den skånske adelsmann Jakob Trolles femten barn. Som 19-åring ble Trolle sendt til København for å studere ved Vor Frue for deretter å studere i Wittenberg.
Han giftet seg med den rike hoffjomfru Birgitte Gøye, som var datter av rikshoffmester Mogens Gøye. En håndfull hjertelige brev fra ham til henne er bevart. Både Trolle og hans kone var kjent for sine ydmyke liv og gode kirkevaner.
Mangfoldig karriere
Herluf Trolle var kulturens mann; han oversatte blant annet Davids 3. salme og Te Deum til dansk. Han fremmet litteratur og lærdom ved å utdanne folk i trange kår.
I 1559 ble Trolle utnevnt til admiral over den danske flåte. I 1563 overtog han Peder Skrams post som øverste admiral. Med hjelp fra to andre danske skip angrep Trolle det svenske flaggskip Jutehataren ("«judehateren»), som også ble kalt Makalös fordi det var det største skip i Skandinavias farvann, men kampen ble innstilt da natten falt på. Klokken seks den følgende dag angrep danskene igjen Makalös, og det overgav seg. Men det sprang umiddelbart etter i luften og drepte over 300 danske og svenske sjøfolk. Den svenske admiral ble tatt til fange, og resten av den svenske flåte flyktet til Stockholm. Tross store skader på flåten og flaggskipet Fortuna angrep Trolle den svenske flåte den 14. august. Svenskeflåyen ble ledet av den ledende finske admiral Klaus Horn, Herre av Joensuu. Man ble igjen på havet til 13. oktober.
Den Saarede Herluf Trolle, som modtages af sin Hustru og af Skolens Disciple paa Herlufsholm (1832) af Adam Müller.
Trolle brukte det meste av den følgende vinter på Herlufsholm, der han la de siste planer for sin drøm om en skole for frie menns barn. Dessuten brukte han megen tid i København på at stable en ny flåte på bena. Den 1. juni1565 satte han seil mot den svenske flåte. Klas Horn, den svenske admiral, hadde vært til sjøs i lengre tid og det med en flåte som var den danske overlegen. Den 4. juni møttes de to admiraler tett ved Femern (Fehmarn) - slaget ved Bukow. Kampen var hard, men flåtene trakk sig til sist hver til sitt for å kunne reparere sine respektive skader. Trolle var blitt alvorlig såret i lår og skulder, men nektet at la seg tilse av skipslegen før hans mannskap var blitt tilsett. Denne beslutning ble hans død, han døde i København den 25. juni, 17 dager efter at han var satt i havn.
Sammen med ektefellen gjorde han om et tidligere kloster til skolen Herlufsholm. Hans kone Birgitte Gøye ledet den en kort tid, inntil den ble overtatt av Arild Huitfeldt.
Trolle spurte:
Vide I, hvorfor vi hedde herremænd, hvi vi bære guldkæder og have jordegods og vil være højere agtet end andre? Derfor at når konge og herre, land og rige have det behov, da skal vi rigets fjender afværge, beskytte og beskærme med al magt og formue vort fædrene rige, at vore undersåtter må bo og være udi fred og rolighed. Ja, vil vi have det søde, må vi også tage det sure med.
