Munningen av elva Don har alltid vore eit viktig handelssenter. På byrjinga av 200-talet f.Kr. grunnla grekarar frå Det bosporanske riket ein koloni her dei kalla «Tanais» (etter det greske namnet på elva). Fleire hundreår seinare vart busetnaden brent ned av kong Poleumon av Bosporus. Greske kolonistar vann velstanden til byen tilbake, men gotarane praktisk talt utsletta han på 300-talet. Staden der der det gamle Tanais låg,[1] og der landsbyen Nedvigovka no ligg, har vore utgraven sidan 1800-talet.
På 900-talet kom området under kontroll under det slaviske fyrstedømet Tmutarakan. Kiptsjakane, som tok området i 1067, kalla det Azaq (tyder 'lågland'), som dagens namn kjem frå. Den gylne horden la krav på mesteparten av kysten på 1200- og 1300-talet, men handelsmenn frå Venezia og Genova fekk løyve til å busette seg på området der dagens Azov ligg og grunnla ein koloni der som dei kalla Tana. Seinare tok Det osmanske riket kontroll over området og bygde den sterke festninga Azak (Azov).
Festninga Azov
Sommaren 1637 tok donkosakkane festninga med den tyrkiske garnison på 4000 soldatar og 200 kanoner og heldt ho i fem år. I juni 1641 motstod dei ei lang omleiring av ein osmansk arme. I 1642, då tyrkarane trekte seg tilbake, kalla tsaren inn til ei folkeforsamling, eller Zemskij Sobor, som vedtok å overgjeve festninga for å unngå full krig med Tyrkia. Før de forlet borga øydela kosakkane alle festningsverka.
Byen skulle derimot gå gjennom mange fleire omskifte. Under det såkalla Azov-felttoget (1696) klarte Peter den store å vinne attende festninga,[2] men det katastrofale Prut-felttoget tvinga han til å gje ho tilbake til tyrkarane i 1711. Under den russisk-tyrkiske krigen 1768-1774 vart festninga teke av armeen under hertug Rumjantsev og vart endeleg overdratt til Russland med Küçük Kaynarca-traktaten (1774). I sju år var Azov hovudstad for ein eigen region, men etter kvart som den nærliggande Rostov-na-Donu voks fram, vart Azov gradvis mindre viktig.