В сентябре 1941 года призван в Красную армию Полевским райвоенкоматом Свердловской области. До лета 1943 года служил инструктором по пулемётному делу в Свердловске, в боевых действиях участвовал с августа 1943 года.
26 сентября1943 года в бою за деревню Сидоровка и местечко Любеч (ныне — Репкинского районаЧерниговской областиУкраины) Александр Иванович, отражая контратаку противника, поддержанную танками, огнём ручного пулемёта внёс замешательство в ряды следовавших за танками автоматчиков и, воспользовавшись этим, уничтожил 15 немецких солдат. На северной окраине Любеча вывел из строя автомашину с солдатами противника. 28 сентября1943 года при форсировании Днепра первым ворвался в траншеи противника, огнём своего пулемёта подавил 2 неприятельских огневых точки, мешавших форсировать Днепр остальным подразделениям полка. Эти эпизоды службы Жилина стали основанием для его представления к званию Героя Советского Союза.
Указом Президиума Верховного Совета СССР «О присвоении звания Героя Советского Союза генералам, офицерскому, сержантскому и рядовому составу Красной Армии» от 15 января 1944 года за «образцовое выполнение боевых заданий командования по форсированию реки Днепр и проявленные при этом мужество и героизм» удостоен звания Героя Советского Союза[1].