Partiet ble grunnlagt av Pablo Iglesias i Madrid med det formål å organisere og representere arbeiderbevegelsens interesser. Partiets politiske mål var sosialisme i henhold til marxismens prinsipper. PSOE var en del av venstresiden som vant valgene i 1936, og partiets leder Juan Negrín ble statsminister fra september 1936 til 1939.
Da general Francisco Franco sammen med høyrekrefter ledet et forsøk på statskupp i 1936 og den spanske borgerkrigen startet, ble partiet splittet i tre deler: en marxistisk, en sentrumsorientert og en reformistisk sosialistisk retning.
Under diktaturet fra 1939 ble partiet forbudt og fikk først gjenoppta sin virksomhet i 1977. I 1979 ble marxismen avskaffet i partiprogrammet, og partiet sluttet seg til de andre europeiske sosialdemokratiske partiene. Etter gjeninnføringen av det spanske demokratiet har partiet fått ny regjeringsmakt, første gang fra 1982 til 1996 under partileder og statsminister Felipe González.
Ved valget i 2004 overtok partiet overraskende regjeringsmakten fra det borgerlige Partido Popular som lenge lå an til å vinne valget. Den borgerlige regjeringens håndtering av terrorbombingen i Madrid like før valget, hadde utvilsomt betydning for PSOEs valgframgang. Etter valget til nasjonalforsamlingen 14. mars 2004 ble partiet landets største med 43 prosent av stemmene. Partileder José Luis Rodríguez Zapatero, som hadde vært partiets generalsekretær i en årrekke, ble i 2004 Spanias statsminister.
Ved valget i 2008 økte partiet sin oppslutning, og fortsatte ved makten, selv om partiet ikke fikk rent flertall.
Ved parlamentsvalget i november 2011 gikk PSOE tilbake med 59 mandater til 110 i deputertkammeret. Det var det det dårligste resultatet etter at partiet ble tillatt igjen i 1977. Partiet mistet regjeringsmakten til Partido Popular, som fikk rent flertall.