西汉属酃县县治设蒸湘河流处，隶长沙国。永建三年（公元128年）治所迁至酃湖东岸。
东汉献帝（公元196年）建安六年荆州刺史刘表割酃县南部东北境、烝阳县东境置临烝县，县治从酃湖东岸迁回原酃县治所。临烝县，隶零陵郡。
三国时，始属蜀，后属吴。西晋属湘东郡酃县。东晋酃县并入临烝县，属湘东郡临烝县。
南北朝时代，衡阳地域先后归宋、齐、梁陈各朝所有。属湘东郡，分别称临烝县、临烝伯国、侯国和新城县。
隋并临烝、新城、重安3县，始置衡阳县。州、县同治，属衡州衡阳县。
唐高祖武德四年（公元621年），分衡阳县置临蒸（改“临烝”为“临蒸”）、新城、重安3县，隶衡阳郡。七年（公元624年），州治从湘江东岸迁至境内。新城县入临蒸县。属临蒸县。天宝元年（公元742年）后，州郡并称，属衡州衡阳郡衡阳县。
五代，属衡阳县。
宋，属荆湖南路衡州衡阳郡衡阳县。
元，确定行省制度，省下设路。属湖广行省衡州路衡阳县。顺帝至元三年（公元1337年），分衡阳县东南复置新城县。
明洪武十年（公元1377年），并新城县入衡阳县。属横州府衡阳县。
清康熙三年（公元1664年），属湖南省衡永郴桂道衡州府衡阳县。康熙十七年（公元1678年）三月初二日，吴三桂在衡阳称帝，改衡州府为定天府，立都建宫境内（今衡南县政府所在地）。清乾隆二十一年（公元1756年），以蒸水为界分衡阳县东南境置清泉县。属衡州府清泉县。
民国初期，隶衡永郴桂道。
民国十一年（1922年）废道制，属湖南省衡阳县。
民国二十六年（1937年）十二月，湖南省实行行政督察区制，属第五行政督察区，民国二十九年（1940年）五月，改为第二行政督察区。
民国三十一年（1942年）一月一日，析衡阳县城区和环城地域置衡阳市，为省直辖，设8个分区。第三区为今属地。
1949年10月8日衡阳解放后，境内先后称第三区、第二区。
1955年6月称城北区至今均称属衡阳市。
1980年2月20日经湖南省委批准，衡阳市升为地级市，由省直辖，城北区属市辖县级区。
