以后的东晋、宋、齐、梁、陈等六个朝代都在这里建过都，所以又有“六朝古都”的称谓。三国时，这里是东吴的都城建业，东晋以后叫建康，五代十国的南唐国也曾在这里建都，名叫江宁。

而到朱元璋建立明朝在这里建都时，这里，改称南京。南京城的基本规模和形制是在明朝确定的。1356年，朱元璋占领了南京城，他采纳了徽州人朱升“高筑墙、广积粮、缓称王”的建议，着意建筑城墙。墙用石灰、糯米浆、桐油作拌合料，墙顶用桐油和土作拌合料。所以南京的城墙十分雄伟、坚固。皇城的布局体现了封建社会皇权至上的思想。由一条自南而北的中轴线为骨gān，中部建皇宫。午门左为太庙，右建社稷坛，前面延伸为一条大道。两旁设政府机构。这种设计思想被之后作为都城的北京全盘采用。