В Красную Армию призван 1 октября1934 года Бийским горвоенкоматом Алтайского края. После обучения в корпусной школе младших командиров в Киеве с 1934 по 1937 годы, проходит службу в 12-й танковой бригаде в Новгороде в должности сначала механика-водителя, затем командира танка. После прохождения срочной службы Каулько решает продолжить карьеру военного и с 1937 по 1939 годы обучается в артиллерийском училище (сначала в Москве, затем в Тбилиси). После окончания училища он направляется в стрелковую дивизию на Дальнем Востоке в город Благовещенск, на должность командира взвода стрелкового полка. Член ВКП(б)/КПСС с 1941 года.
В боях Великой Отечественной войны с июля 1942 года. Начальник артиллерии гвардии капитан Иван Каулько в ночь на 25 сентября1943 года в числе первых в дивизии переправил артиллерию на правый берег реки Днепр в районе сёл Балыка и Щучинка (ныне село Балыко-ЩучинкаОбуховского районаКиевской области), обеспечив огнём захват и удержание плацдарма подразделениями.
После войны Каулько продолжал службу в армии. В 1945 году он окончил Высшую офицерскую артиллерийскую школу.
Указом Президиума Верховного Совета СССР от 24 декабря1943 года за образцовое выполнение боевых заданий командования на фронте борьбы с немецко-фашистским захватчиками и проявленные при этом мужество и героизм гвардии капитану Каулько Ивану Демидовичу присвоено звание Героя Советского Союза с вручением ордена Ленина и медали «Золотая Звезда» (№ 2392).
Награждён также двумя орденами Красного Знамени, орденами Александра Невского, Отечественной войны 2-й степени, двумя орденами Красной Звезды, Октябрьской Революции и медалями.