1943年析置衡阳市。
东汉、三国，属衡阳郡。西晋、东晋，属衡州。南北朝，属衡阳王国。
隋朝，临蒸县更名衡阳县，属衡州总管府。
唐玄宗年间复名衡阳县，肃宗年间衡州防御使治所设衡州州治，衡阳县城驻州城，领辖衡、岳、潭、郴、邵、永、道、涪八州军事。
唐代宗年间置湖南观察使治所于衡州州治，衡阳县城驻州城，领辖衡、潭、邵、永、道五州军事。
宋，属荆衡州衡阳郡。元，属衡州路。明，属衡州府。
清康熙年间，吴三桂在衡称帝，国号周，改元昭武，改衡州府为定天府。乾隆年间置县分治。
民国，废府存道，属衡阳道。
1928年后，衡阳县先后属湖南第五督察区（行政中心衡阳市）管辖、湖南第二督察区（行政中心衡阳市）管辖。
1931年1月，析衡阳县城区及城郊3个乡置衡阳市（省直辖市）。市、县治同城。
1949年10月1日，中华人民共和国成立。10月8日衡阳解放。衡阳县隶属衡阳专员公署。
1952年4月，根据政务院决定，析衡阳县东南境一、二、四、九区置衡南县。7月，衡阳县治迁西渡。10月，撤衡阳、郴州、零陵专员公署设湘南行署，衡阳县隶属湘南行政区。
1954年7月，撤湘南行署，复设衡阳专员公署，衡阳县属衡阳专员公署。
1968年9月，改衡阳专员公署为衡阳地区，衡阳县属衡阳地区。
1983年5月，衡阳地、市机构合并，衡阳县隶属衡阳市。
2000年，衡阳县辖14个镇、11个乡。
2001年4月4日，国务院批准将衡阳县呆鹰岭镇划归衡阳市蒸湘区管辖。
2015年12月，根据衡阳县乡镇区划调整方案潮江乡并入集兵镇，调整后下辖8乡17镇。
