שלמר נולד בשטוטגרט והיה הצעיר משישה אחים. שני הוריו מתו כשהיה בן 12, וכבר כשהיה בן 15 החל לפרנס את עצמו. הוא למד ציור בתור מתמחה של אדולף הלצל (Adolf Hölzel) בשטוטגרט. אוסקר שלמר למד עיצוב גרפי יישומי בבית מלאכה למוצרי קישוט בשטוטגרט בין השנים 1903–1905. בין 1906 ל-1910 למד במשך סמסטר אחד בבית הספר לאמנויות שימושיות בשטוטגרט ואז קיבל מלגה לאקדמיה של העיר. בשנים 1911–1912 עבד שלמר כציירפרילנסר בברלין ויצר קשר עם הגלריה של הרווארד וולדן. בשנת 1912 הוא חזר לשטוטגרט והיה לאחד מתלמידי התואר השני של אדולף הלצל. בשנים 1913–1914 הוא פתח וניהל את Neuer Kunstsalon (סלון לאמנות חדשה) במחוז Neckartor. יחד עם וילי באומייסטר והרמן שטנר, עיצב ציורי קיר לאולם הראשי של התערוכה של דויטשר וורקבונד (פדרציית העבודה הגרמנית) בקלן בשנת 1914.[1] בשנת 1914 התגייס לצבא הגרמני על מנת להשתתף במלחמת העולם הראשונה, ולאחר שנפצע הועבר ליחידה שעסקה בקרטוגרפיה.
בשנת 1919 החל לפסל והציג תערוכה בגלריה בברלין. בשנת 1920 נישא להלנה טוטיין (Helena Tutein). הוא נקרא באותה שנה על ידי ולטר גרופיוס, מייסד בית ספר הבאוהאוס, לעמוד בראש המחלקה לציורי קיר במוסד, ואחר כך בשנת 1923 החל להעביר את הסדנאות לתיאטרון.
עם עליית הנאצים בשנות השלושים, סווגה יצירתו של שלמר כ"אמנות מנוונת", והוא נאלץ לנוע תכופות בתוך גרמניה כדי להימנע מרדיפות הנאצים. בשנים אחרונות לחייו עבד ב-Institut für Malstoffe שבוופרטל, יחד עם וילי באומייסטר וגיאורג מוך, שם ניתנה לו ההזדמנות לצייר ללא פחד מרדיפה.