A hercegséget 1525-ben hozta létre Brandenburgi Albert, a Német Lovagrend nagymestere. A lovagoknak 1226 óta volt birtokukban a terület, amelyet a baltiporoszoktól hódítottak meg. Jelentős területeket engedtek át a lengyel királynak 1466-ban, s hűbéri kötelezettséget vállaltak.
A lovagok V. Károly német-római császár segítségével 1530-ig több kísérletet tettek a terület visszaszerzésére, de Albert hűségesküt tett II. Zsigmond Ágost lengyel királynak, aki megvédte a németekkel szemben. Poroszország ráadásul eredetileg nem volt része a Német-római Birodalomnak. A különválást a rimini aranybulla szentesítette 1226-ban. Albert szövetségre lépett skandináv államokkal és a protestáns német fejedelmekkel, így egyre erősebb támogatókra talált.