衡阳秦汉
西汉高祖5年（公元前202年）始建酃县（今珠晖区酃湖乡，西汉至隋朝酃县治现衡阳市珠晖区酃湖，后迁现炎陵县治）。
西汉末年，酃县西部设钟武侯国。
衡阳三国两晋南北朝
三国时期衡阳分属于衡阳郡和湘东郡，出现二郡分立，分别隶属于荆州湘东郡和衡阳郡，耒阳、常宁属桂阳郡。
西晋初沿袭之，后析荆州、广州置湘州，现衡阳市均属湘州。东晋废湘州并其入荆州，先后设湘东郡、湘州，现衡阳市均位于其范围内。
南朝宋齐梁陈四朝，仍设重安县、临蒸县、衡山县，南朝陈设新城县，湘州隶衡阳国；耒阳、衡东先后属桂阳郡、湘州；常宁均属湘东郡；现祁东刘宋时分属永昌、祁阳二县，隶湘州零陵国，齐梁陈三朝，祁东亦分属永昌、祁阳二县，属零陵郡。
衡阳隋唐五代十国
公元589年，隋灭陈并改郡为州，并湘东、衡阳两郡为衡州，并临蒸、新城、重安为衡阳县，州、县城均设湘江东岸，为历史上首次出现以衡阳命名的县。
唐武德四年（621年），置衡州，复析临蒸、新城、重安三县。后重安、新城并入临蒸。开元二十年（732年），复名衡阳，为衡州治。天宝元年（742年），衡州改为衡阳郡。乾元元年（758年），复为衡州。
五代十国时期，马殷在湖南创建楚国，衡阳为衡州地。
衡阳宋元
北宋时现衡阳市仍分属衡州与潭州，现衡山、衡东、祁东属潭州。南宋沿袭之。
元朝确定行省制度，省下设路，改置衡州路总管府，现衡阳市分属衡州路总管府和永州路总管府，在衡州设湖南道宣慰司（后迁治潭州），隶属湖广行省。元贞元年（1295） 衡永郴桂诸路人民抗粮、抗丁，起义频繁，朝廷于衡州设行枢密院。
衡阳明清
置衡州府，隶属湖广行省。下辖衡阳、衡山、衡东、常宁、耒阳、安仁、炎陵、桂阳、嘉禾、蓝山、临武地。明朝中后期设雍王、桂王藩国，都衡阳。明末清初顺治九年（1652年）十一月，在清统一战争中，大西军安西王李定国率军于衡州城郊伏击清军，阵斩清定远大将军敬瑾亲王尼堪，史称“衡州之战”。
清朝，为衡州府，辖境为衡阳、衡山、衡东、常宁、耒阳、安仁、炎陵、桂阳、嘉禾、蓝山、临武等县地。雍正十年（1732年），桂阳州升为桂阳直隶州，府境南界北移至耒阳市、常宁市。
公元1676年，吴三桂曾在衡阳称帝，国号周，衡阳称应天府。
衡阳中华民国
民国三年（1914年），废府存道，改衡永郴桂道为衡阳道。衡阳道所辖县仍如清代衡永郴桂道，治衡阳，辖湘南34县。后废道。
1936年，湖南设立行政督察区，衡阳先后属于第五和第二行政督察区，专员公署驻衡阳，辖衡阳、衡山、常宁、耒阳、攸县、安仁、酃县、茶陵。
1939年春因抗战的缘故湖南省政府自沅陵迁至耒阳，省政府设在水东江至竹市一带，秘书厅设杜陵书院（今耒阳一中）。
1942年，衡阳县东华、雁峰、西湖、石鼓、江东5镇和城郊的广福、奇罡、酃湖3乡区域设置衡阳市。
1943年衡阳市改为省辖市。
1944年的衡阳会战，使当时的衡阳市仅存三座建筑物，衡阳保卫战的悲壮和其重要的战略意义也使衡阳得到了“中国抗战纪念城”的称号。
衡阳中华人民共和国
1949年10月8日衡阳解放，设衡阳专区，专署驻衡阳市。
1950年，衡阳市改为省辖市，专区辖8县。
1952年，衡阳县析置衡南县，专区辖9县，同年衡阳专区撤销，设立湘南行署。
1954年，撤销湘南行署，复置衡阳专区，专署驻衡阳市。辖原湘南行署所属衡阳县、衡南县、衡山县、江华县、永明县（1956年改称江永县）、道县、宁远县、常宁县、祁东县、祁阳县、零陵县、东安县共计12县，专署驻衡阳市。
1955年11月25日，撤销江华县，原江华县的大部和蓝山县的小部地区合并设置江华瑶族自治县，原江华县部分地区并入永明县。专区辖11县、1自治县。
1959年，省辖市衡阳市改归衡阳专区，衡南县改归衡阳市管辖。专区辖1市、11县、1自治县。
1961年，衡南县改归衡阳专区；零陵县析置冷水滩市；专区辖2市、11县、1自治县。
1962年，撤销冷水滩市并入零陵县，零陵县、江永县、道县、宁远县、东安县及江华瑶族自治县划归零陵专区，衡阳专区辖1市、6县。
1963年，由衡山县析置南岳县，专区辖1市、7县。
1966年，撤销南岳县并入衡山县，衡山县析置衡东县；专区辖1市、7县。
1970年，衡阳专区改称衡阳地区，行政公署驻衡阳市。辖衡阳市及衡南县、衡山县、衡东县、常宁县、祁阳县、祁东县、衡阳县共计1市、7县。
1980年2月20日，衡阳市由地辖市升为省辖市（1983年改称地级市），专区辖7县。
1983年7月，衡阳地区与衡阳市合并，实行市管县体制。衡阳市辖衡阳、衡南、衡山、衡东、祁东、耒阳、常宁九县和江东、城南、城北、郊区、南岳五个县级区。
1986年耒阳撤县建市。
1996年常宁撤县建市。
2001年城北、城南、江东、郊区四个区分别更名为石鼓、雁峰、珠晖、蒸湘四个市辖区。
