楚霸王项羽被困垓下，四面楚歌，败退至和县乌江，请渔人将心爱的坐骑乌骓马渡至对岸，后自觉无颜见江东父老，自刎而亡。乌骓马思念主人，翻滚自戕，马鞍落地化为一山，马鞍山由此而得名。在马鞍山市现有的地方史料中，最早有马鞍山山名记载的是明代《太平府志·舆地志》：马鞍山在府城西北慈湖港口。旧有神祠，赤乌二年所建。
马鞍山地区西周时属吴国，春秋战国时期先后改属越国和楚国，秦至西晋均属丹阳县（治所今当涂县丹阳镇）。
东晋咸和四年（329 年），淮河之滨的当涂县（今安徽怀远县境内）流民南徙，遂于今南陵一带侨置当涂县，江南始有当涂县名，但非实体县。
永和元年（345 年），江北豫州（今河南东南部，湖北东部）侨置于牛渚（今采石）。
南朝梁天监元年（502 年），分丹阳县置南丹阳郡，郡治采石。
隋开皇九年（589 年），侨置于皖南一带的当涂县徙治姑孰城（今当涂城关镇），此是姑孰为当涂县城之始，并迄今相沿未变。
北宋太平兴国二年（977 年）设太平州，治姑孰城，辖当涂、芜湖、繁昌三县。
元改太平州为太平路。元至正十五年（1355 年），朱元璋率起义军攻占当涂，改太平路为太平府，辖县照旧。明清府治隶属不变。
民国裁府留县，当涂县直属安徽省。
1949年4月，当涂解放。
1954年2月，设马鞍山镇，隶属当涂县。
1955 年8 月，设马鞍山矿区政府（县级），隶属芜湖专区。
1956年10月12日，国务院批准设立马鞍山市，为省辖市。其间，当涂县先后隶属芜湖专区（地区）、宣城地区。
1983年7月，当涂县（除大桥乡外）划属马鞍山市。辖县和县古名历阳，因“县南有历水”而得名。
2011年8月22日，原地级市巢湖市所辖含山县、和县（不含沈巷镇）划归马鞍山市管辖。
2012 年，撤销金家庄区、花山区，设立新的花山区；设立博望区，将当涂县博望、丹阳、新市3 个镇划归博望区管辖。
马鞍山历史沿革一览
朝代|建置名称|建置时间|治所
西周|无|无|无
东周|无|无|无
秦朝|九江郡丹阳县|前221年|丹阳镇
西汉|扬州丹阳郡丹阳县|前202年|丹阳镇
东汉|扬州丹阳郡丹阳县|25年|丹阳镇
吴国|扬州丹阳郡丹阳县|222年|丹阳镇
西晋|丹阳县|280年|丹阳镇
东晋|南豫州|345年|牛渚镇
南朝|南豫州南丹阳郡|502年|采石镇
隋朝|宣州当涂县|589年|姑孰镇
唐朝|江南道宣州当涂县|618年|姑孰镇
杨吴|宣州当涂县|902年|姑孰镇
南唐|宣州当涂县|937年|姑孰镇
北宋|江南东路太平州|977年|当涂县
南宋|江南东路太平州|1127年|当涂县
元朝|江浙行省太平路|1206年|当涂县
明朝|南直隶太平府|1355年|当涂县
南明|南直隶太平府|1645年|当涂县
清朝|江南布政使司太平府安徽省太平府|1646年|当涂县
太平天国|安徽省太平郡|1853年|当涂县
中华民国|安徽省当涂县|1912年|姑孰镇
中华人民共和国|皖南行署当涂县马鞍山镇安徽省马鞍山矿区安徽省马鞍山市|1954年、1955年、1956年，1983年|金家庄区
