Ossiannilsson debuterade som författare 1895 med boken Förteckning på i svenska språket förekommande umbärliga främmande ord och uttryck som innehållsligt var precis det som titeln anger. Han blev känd för en bredare läsekrets först genom sina 1900–1901 publicerade diktsamlingar Fem dikter, Masker och Hedningar. Han ändrade sitt ursprungliga efternamn Nilsson, först till Ossian-Nilsson (vilken namnform han använde fram till 1914), sedan till Ossiannilsson. Debutboken tillkom under Ossiannilssons studietid vid Lunds universitet (1894–1897) där han tog en filosofie kandidat Efter sin examen försörjde han sig 1897–1901 som informator och lärare i privatskola.
Karl Gustav Ossiannilsson valdes till Socialdemokratiska ungdomsförbundets första ordförande då det bildades 1903 men han lämnade posten redan 1904 efter en kritisk artikel av Bengt Lidforss i tidningen Arbetet. Artikeln kritiserade Ossiannilsson som författare till propagandaskriften Är du nöjd med din ställning (1904) på ett sådant sätt[förtydliga] att Ossiannilsson inte ansåg att han kunde sitta kvar som ordförande i det socialdemokratiska ungdomsförbundet.
De följande åren upprättade Ossiannilsson stegvis ett allt större avstånd till socialdemokratin och med det klassiska boken Barbarskogen gjorde han en våldsam uppgörelse med partiet. Han kom 1928 att istället ansluta sig till Sveriges nationella ungdomsförbund. Han lämnade förbundet vid andra världskrigets utbrott och författade den anti-nazistiska dikten ”Till en förtryckare”.
Karl Gustav Ossiannilsson gifte sig den 23 juni 1905[3] med fil.kand. Naëmi Sofia Mariana Arnman (1879–1961) och efter hennes död ingick han ett andra äktenskap med sin hushållerska Vivi Eklund. I det första äktenskapet föddes sönerna Frej Ossiannilsson, Sölve Ossiannilsson och Folke Dovring. I och med äktenskapet med Naëmi byggde de äkta makarna huset Fröstad[4] vid Linghem öster om Linköping.
Förutom böcker och noveller skrev Ossiannilsson manus till filmerna En ung mans väg (1919) samt När seklet var ungt (1944). Dessutom skrev han musiken till den sistnämnda.[5] Han skrev även texter till musikaliska verk, bland annat skrev han texten till Sveriges flagga.
Samuel Pepys: Pepys’ dagbok (1660–1669): hans anteckningar om sig själv och den ”glade kungens” tider (urval, översättning och bearbetning; Wahlström & Widstrand, 1922)
Joseph Addison: Sir Roger de Coverley: en liten roman (Wahlström & Widstrand, 1923)
Pierre Corneille: Cid: tragedi i fem akter och på vers (i Världslitteraturen: de stora mästerverken, band 19, 1927)
Ahlund, Claes (2007). Diktare i krig: K.G. Ossiannilsson, Bertil Malmberg och Ture Nerman från debuten till 1920. Skrifter utgivna av Avdelningen för litteratursociologi vid Litteraturvetenskapliga institutionen i Uppsala, 0349-1145 ; 55. Hedemora: Gidlund. Libris10595931. ISBN 9789178447473
Cantzler, Otto (1993). Sångaren på Fröstad: K.G. Ossiannilsson. Linghem: Stålgården. Libris7764299. ISBN 9187362090