Arleigh Burke föddes 1901 till bonden Oscar Burke och hustrun Clara, född Mokler.[4] Farfadern var emigrant från Sverige (Hudene socken i Västergötland) och vars efternamn ursprungligen var Björkegren.[6] Efternamnet ändrades till det fonetiskt närliggande Burke på förslag av irländska kollegor.[6]
På grund av att skolorna var stängda i Colorado under pandemin med Spanska sjukan tog han aldrig någon examen från high school, men den flitige bondsonen nominerades av traktens lokala kongressledamot till en plats vid United States Naval Academy.[4] Burke avlade examen från United States Naval Academy i Annapolis 1923. På examensdagen gifte han sig med Roberta, född Gorsuch, men paret fick aldrig några barn.[5] Under 1920-talet tjänstgjorde Burke på flera slagskepp och jagare. 1931 tog han en masterexamen i kemiteknik vid University of Michigan. När andra världskriget bröt ut tjänstgjorde han vid kanonfabriken på Washington Navy Yard och inte förrän 1943 kunde Burke, efter egna påtryckningar, överföras till fartygstjänst.[7]
I Stilla havskriget förde han befäl över flera jagardivisioner. Som chef för Destroyer Squadron 23 erhöll han smeknamnet "31 knops Burke" (engelska: 31-Knot Burke) och deltog i fler än 20 sjöslag. Under Burkes befäl sänkte Destroyer Squadron 23 sammanlagt 1 kryssare, 9 jagare, 1 ubåt samt ungefär 30 flygplan från den Kejserliga japanska flottan.[7]
Burke var inblandad som stabsofficer i den försvarspolitiska striden och rivaliteten mellan flottan och USA:s flygvapen som benämnts som amiralernas revolt, men klarade sig till slut helskinnad ur detta.[8] Det krävde dock intervention från högsta ort: USA:s presidentHarry S. Truman, på inrådan av amiral Forrest P. Sherman, för att Burke inte skulle avföras från befordringslistan.[9]
President Dwight Eisenhower utsåg konteramiral Burke 1955 till CNO och fyrstjärnig amiral, trots att det fanns 92 mer seniora amiraler i flottan.[4] Burke har kallats för "den siste CNO", då befattningen i och med 1958 års Department of Defense Reorganization Act förlorade den operativa befälsrätten över flottans sjöstridskrafter.[4] Som CNO vidhöll han i motvind flottans traditionella uppfattning att centralisering inom USA:s försvarsdepartement var negativ.[4] Under Burkes tid som CNO togs den första fartygsklassen (George Washington-klass) med atomubåtar bestyckade med ballistiska robotar i drift. USA:s försvarsministerThomas S. Gates inrättade en gemensam planeringsstab mellan flygvapnets Strategic Air Command (SAC) och flottan för att jämka val av mål i händelse av kärnvapenkrig. Joint Strategic Target Planning Staff (JSTPS).[4] Även om Burke lyckades hindra SAC från att få befäl över ubåtarna såg han det som ett misslyckande att den förlades till SAC:s högkvarter på Offutt Air Force Base i Nebraska då det gav dem ett övertag.[4]