Tíz gyermekes családban született. Apja sörfőzdét, éttermet és ecetgyárat üzemeltett, és útikönyveket írt. 1829-ben Münchenbe költöztek, és nyáron kirándultak a Bajor-Alpokban, Ausztriában, átkeltek a Szent Gotthárd- és Nagy Szent Bernát-hágón. Az apa úti beszámolókat írt, Oswald pedig később festményein örökítette meg a tájakat. 1830-ban visszatértek Düsseldorfba, Oswald a nagyszülőkhöz került.
1835 novemberében beiratták 8 évesen a düsseldorfi festőiskola első osztályába. Az apa vállakozásai tönkrementek, Oswald szegénységet bizonyító igazolást kapott. 1840-ben apjával ismét utazott, Genf, Thun, és a Montblanc volt az úticél. 1841-ben befejezte tanulmányait a festőiskolában.
1843 augusztusában tanulmányútra indult Felső-Bajorországba, Kufsteinbe, Innsbruckba és Salzburgba. Számtalan rajzot készített a természetben, melyeket a legkorábbi, ismert festményeinek témájául választott.
1850-ben egy düsseldorfi új galériában állította ki, és értékesítette képeit. A Morning és Evening festményeit Albert herceg vásárolta meg feleségének, Viktóriának, 220 fontért.
1862-ben műtermet kapott a Düsseldorfi Akadémián, és tanársegédként működött Hans Gude mellett. 1872-ben visszavonult az akadémiáról, és csak a festéssel foglalkozott.
