По национальности украинец («малоросс»). Крестьянин села Тучное Тучнянской волости Лебединского уезда Харьковской губернии. Выпускник сельской школы. Участвовал в русско-турецкой войне 1877—1878 годов. Председатель Тучнянского волостного суда. Занимался земледелием на наделе площадью 21/4 десятины[1]. Годовой заработок составлял 20 рублей.
В июле 1906 года против Ярового было выдвинуто обвинение в краже кошелька с десятью рублями и должностного знака у крестьянина Михаила Молчанова. Полицейское дознание по этому поводу состоялось только 24 марта 1907 года. Так как Яровой был защищён как депутат Думы согласно Положению о выборах в Государственную думу и ст. 20–21 Учреждения Думы, премьер-министр П. А. Столыпин обратился к председателю Государственной Думы Ф. А. Головину с тем, что рассмотрение данного случая направлено "на Ваше, Милостивый Государь, распоряжение, прошу Вас о последующем не оставить меня уведомлением"[2].
После роспуска 2-й Государственной Думы вернулся на родину. В документах Департамента полиции сообщается, что Яровой был агитатором Крестьянского союза.