Rolfsen skrev Lesebok for Folkeskolen, som var det mest brukte læreverket i sin tid. Fra 1892, da den første kom ut, og fram til midten av 1950-tallet ble den trykt i mer enn 8 millioner eksemplarer.
Rolfsen samlet en mengde barne- og ungdomslitteratur av flere forfattere for å gjøre det mer tilgjengelig, og han utga egne fortellinger og sanger. I syv år redigerte han Illustreret Tidende for Børn (1885–1894), hvor han la vekt på å presentere norsk litteratur for barn ofte ledsaget av gode illustrasjoner.