Carlsson begann 15-jährig beim Limhamns IF mit dem Fußballspielen und wechselte nach einem zweijährigen Aufenthalt bei Malmö Läroverks IF zu Beginn des Jahres 1920 ins Sportinternat des IFK Malmö. Zwei Jahre später, im Januar 1920, rückte er in die erste Mannschaft auf, für die er bis Jahresende 1921 spielte.
Aus Gründen der Berufsausbildung gelangte er nach Deutschland und begann eine Kaufmannslehre in Lübeck. In dieser Stadt schloss er sich dem Lübecker BV an, bevor er 1922 zum Hamburger SV wechselte.
Mit Saisonbeginn 1924/25 bis Saisonbeginn 1926/27 trat er beim Hamburger SV nicht in Erscheinung. Grund hierfür war die Rückkehr nach Schweden, um seiner Wehrpflicht nachzukommen. Zeitweise war er dabei bei wieder bei seinem ehemaligen Klub IFK Malmö registriert.
Mit Rückkehr zum Hamburger SV spielte er noch bis 1933 für diesen, unterbrochen von der Saison 1929/30, in der er vorübergehend 15 Punktspiele für den IFK Malmö in der Fotbollsallsvenskan, der höchsten Spielklasse im schwedischen Fußball, bestritt.
1927/28 bestritt er seine letzten vier Endrundenspiele um die Deutsche Meisterschaft, an deren Ende der erneute Titelgewinn stand. Nachdem er mit der Mannschaft erfolgreich das Achtel- und Viertelfinale bestritten und gegen den FC Bayern München im Halbfinale mit 8:2 gewonnen hatte, siegte sie mit ihm auch am 29. Juli im Altonaer Stadion mit 5:2 gegen Hertha BSC. Während seiner Vereinszugehörigkeit (bis Dezember 1933) bestritt er 194 Pflichtspiele für den Hamburger SV, darunter 20 Endrundenspiele um die Deutsche Meisterschaft.
Nach seiner Hamburger Zeit schloss er sich erneut dem Lübecker BV (nunmehr: Phönix) an, dem er von Januar 1934 bis 1941 angehörte. Spielte er die Saison 1934/35 noch in der zweitklassigen Bezirksklasse, so kam er als Bezirksmeister fortan von 1935 bis 1938 in der Gauliga Nordmark, in einer von zunächst 16, später auf 23 aufgestockten Gauligen zur Zeit des Nationalsozialismus als einheitlich höchste Spielklasse im Deutschen Reich zum Einsatz.