При Байкове Ростов обзавелся тротуарами, первыми фонарями, общественным транспортом, богадельней, газетой, обществом взаимного кредита, биржей. Появились пожарная команда, набережная и сады. Именно Байков был родоначальником городского водоканала[2], построив в городе паровое водоснабжение в 100 тысяч ведер в сутки[3].
С марта 1871 года последующие 10 лет Байков провел на Кавказе. Взял в аренду Кавказские Минеральные Воды. К кавказскому периоду Байкова относятся — появление в Ессентуках гостиницы европейского уровня (собственность Байкова) и организация продажи минеральной воды в бутылках. Байков становится почётным мировым судьей по Владикавказскому округу. Его отметили государственными наградами.
Стоял у истоков проекта памятника М. Ю. Лермонтову в Пятигорске. 10 (22) июня 1885 года А. М. Байков как уполномоченный Комитета по сооружению памятников заключил договор с академиком А. М. Опекушиным о сооружении в Пятигорске памятника М. Ю. Лермонтову[6]. До почти самой установки памятника (в августе 1889 году) принимал активное участие в сборе средств и организации постройки памятника[7].
В 1889 году, уже тяжело больной, он уехал лечиться в тирольский город Мерано. На чужбине не прожил и месяца. 18 сентября1889 года Андрей Матвеевич Байков скончался. Был похоронен в Ростове-на-Дону.
В настоящее время на месте могилы Байкова на Всехсвятском кладбище находится Дворец спорта. Единственное сохранившееся здание, где достоверно бывал Андрей Матвеевич на заседаниях городской думы — Дом Максимова на Центральном рынке.
Байков был женат на генеральской дочери — Колодкиной Прасковье Яковлевне, у них была дочь Ольга[8].
Память
Памятник Ростовскому водопроводу
Имя Байкова в Ростове получили — улица Байковская (ныне ул. Республиканская), бульвар, пароход и хутор (район нынешнего мясокомбината).
