Успостављен је у лето 1940, као помоћни логор логора Захсенхаузен, а независни логор је постао 1. маја1941. Како је комплекс растао, многи затвореници су били приморани да раде на изградњи помоћних објеката и логора.
У октобру 1941, СС је транспортовао око 3.000 совјетских ратних заробљеника у Грос-Розен, где су стрељани. Затвореници су коришћени и као робови за немачку индустрију. Међу компанијама које су користиле присилни рад затвореника били су немачки произвођачи електронике Блаупункт и Сименс. Највећи број затвореника су били Јевреји, у почетку из логора Дахау и Захсенхаузен, а касније из Бухенвалда. Јевреји су у логор допремани углавном из Пољске и Мађарске, али и из Белгије, Француске, Холандије, Грчке, Југославије, Словачке и Италије.
Процењује се да је кроз логор прошло укупно око 125.000 затвореника различитих националности, од којих је око 40.000 умрло у логору или током транспорта. Црвена армија је ослободила логор 14. фебруара 1945.
Литература
Alfried Konieczny, Encyclopaedia of the Holocaust. NY: Macmillan, 1990, vol. 2, pp. 623–626;Inmate accounts
Willem Lodewijk Harthoorn (2007). Verboden te sterven. Van Gruting. ISBN978-90-75879-37-7.
Teunissen, Johannes (2006). Mijn belevenissen in de Duitse concentratiekampen. Kok. ISBN978-90-435-0367-9.