Аркадий Александрович Рылов родился в Истобенске[4]; вырос в семье отчима — нотариуса (родной отец был психически болен). Брат Герман Александрович Рылов — преподаватель музыки, пианист и основатель Первой пролетарской музыкальной школы в Вятке (ныне Первая детская музыкальная школа г. Кирова).
В окрестностях Петербурга и в Финляндии им были созданы десятки картин и эскизов в характерной для него цветовой гамме. Кроме того, А. А. Рылов успешно работал как художник-иллюстратор и писал эссе о природе.
С 1902 года вёл «класс рисования животных» в Рисовальной школе при Обществе поощрения художеств[5], с 1917 года преподавал в Академии художеств (профессор с 1918 года). Сотрудничал с журналом «Чиж».
После революции Рылов продолжал активно заниматься творческой и педагогической работой. А. А. Фёдоров-Давыдов называл Рылова «выдающимся советским пейзажистом», а его картину «В голубом просторе» (1918, ГТГ) рассматривал в ряду «тех произведений, с которых принято обычно начинать историю советской живописи»[6]. После образования в 1932 году ЛОССХ Рылов участвовал во всех его крупнейших выставках, начиная с Первой выставки ленинградских художников 1935 года[7]. Его работы во многом определяли многогранный облик ленинградской пейзажной живописи 1920—1930-х годов[8].
В качестве профессора ЛИЖСА Рылов внёс большой вклад в подготовку новых поколений художников, оказав прямо или опосредованно влияние на состояние и развитие советской пейзажной живописи в последующие десятилетия. Достаточно сказать, что среди его учеников были такие известные мастера этого жанра как А. М. Грицай, Б. В. Щербаков, Н. Е. Тимков. Своим «учителем» и «любимым художником» называет Рылова известный ленинградский и петербургский художник Н. Н. Галахов, чья учёба в ЛИЖСА и последующее творчество в жанре пейзажа пришлись уже на послевоенные десятилетия[9][10].