Munningen til Don har vore kommersielt og kulturelt viktig sidanantikken. Her låg eingresk koloni kalla Tanais, detgenuesiske fortet Tana ogtyrkiske festninga Azov.
Rostov-na-Donu vart i røynda grunnlagd i 1749 som eit tollhus bygd vedTemernik (ei sideelv til Don) og like etter vart ei stor festning bygd. Han var kalla opp etter St.Dimitrij av Rostov, ein nyleg heilagkåra biskop frå den nordlege byenRostov. Etter kvart som Azov gradvis forsvann voks det fram ein ny busetnad rundt festninga, som etter kvart tok over rolla som det største handelssenteret i regionen. I 1756 vart Det russiske handelsselskapet avKonstantinopel sett opp her, og dei oppretta ein busetnad ved Don kallaKupetsjeskaja Sloboda. I 1796 fekk busetnaden byrettar og fekk namnet Rostov-na-Donu for å skilje han frå den opphavlege, nordlege byen.
Rostov oblast administrasjonsbygningEi fontene i Revolusjonsparken
Don er ei stor transportåre, som knyter sørvestlege delar av Russland til regionar lenger nord, og Rostov-na-Donu er ei viktig elvehamn for både passasjer- og godstrafikk. Med ei så bra geografisk plassering voks byen raskt. Som den mest industrialiserte byen i Sør-Russland kjempaDen kvite arméen ogbolsjevikane om byen underden russiske borgarkrigen. I 1928 vart byen provinshovudstad etter at styresmaktene flytta frå den gamlekosakkiske hovudstadenNovotsjerkassk til Rostov, som òg voks saman med denarmenskeNor Nakhijevan (i dag bydelane Nakhijevan, Proletarskij).
Under Sovjetunionen øydela bolsjevikane dei to største landemerka i Rostov, St. Aleksander Nevskij-katedralen (1908) og St. Georgij-katedralen i Nakitsjevan (1783-1807). Mykje av byen vart lagt i ruinar av tyske styrkar som okkuperte han to gonger, i 1941 og 1942. I dag er det største landemerket i sentrum den enorme kyrkja Jomfrufødselen (1860-87), teikna avKonstantin Thon.
Rostov-na-Donu har opplevd stor økonomisk vekst dei siste åra ettersom den nasjonale økonomien har betra seg. Mange selskap har hovudkvarter i byen, som i dag er eit senter for industri og teknologi.
