С 1857 года и до конца своей жизни А. Н. Алфёров жил в Германии, пополняя своё собрание гравюр и картин известных художников.
Аркадий Алфёров завещал свою коллекцию, которая насчитывала более 3 тысяч экземпляров (от Дюрера и Ботичелли до Брюллова и Айвазовского) Харьковскому университету. Позже коллекция, опись которой занимает 640 страниц, стала значительной частью собрания Харьковского художественного музея; в музей поступило 50 живописных произведений, 420 листов оригинальной графики (рисунок, акварель) и около 3 тыс. гравюр западноевропейских и русских мастеров XVI—XIX вв. Во время Великой Отечественной войны коллекция сильно пострадала: сейчас она насчитывает 18 живописных произведений, около 150 листов оригинальной графики и более 2 тыс. гравюр.