衡水历史悠久，夏之时分属冀、兖二州。商周时期有饶、昌、武城、武
罗等主要封邑方国。春秋时期多归晋国，战国时代为燕、赵之地。公元前221年秦始皇统一中国后属钜鹿郡。汉代属冀州刺史部，先后设有广川国、信都国和安平国，今辖县市区多为此时建置。三国时系魏国冀州域，冀州治自邺始移信都，境内分属安平、博陵、渤海三郡。晋代仍为冀州所辖。隋时，南部属冀州，北部属公元596年所置深州。唐代属河北道。宋初冀州属河北东路，深州属河北西路。元初，观州治所移至县城（今景县城），并于公元1265年复称景州。明、清，先后为中书省、京师、直隶省所辖，境内仍由冀、深、景三州分领。
衡水近代
中华民国初期，各州皆改为县，直隶于省。至1914年，今辖区分属大名道、保定道、津海道管理。
1928年，直隶省改称河北省，同时废道，各县直接划归于省管辖。
1937年抗日战争爆发后，今辖区分属中国共产党领导的晋察冀边区之冀中区和晋冀鲁豫边区之冀南区。
1948年5月，两边区合并改称华北行政区。
1949年8月1日始设衡水专区，辖原冀南、冀中两区之部分县域，包括衡水、冀县、枣强、武邑、深县、武强、清河、恩县、夏津、武城、故城、景县、阜城等13县，属新建立的河北省。
衡水现代
1952年11月7日衡水专区奉华北行政委员会之命撤销，其辖区之夏津、恩县、武城3县划归山东省，衡水、深县、武强、武邑、枣强、冀县6县划归石家庄专区，景县、故城、阜城3县划归沧县专区，清河县划归邢台专区。
1962年6月27日，国务院批准衡水专区复置，下辖衡水、冀县、枣强、武邑、深县、武强、饶阳、安平、故城、景县、阜城计11县。
1970年，衡水专区改称衡水地区。
1982年1月，衡水镇升为衡水市。
1993年9月，冀县改建为冀州市。
1994年7月，深县改建为深州市。
1996年5月31日，国务院批准撤销衡水地区，改设地级衡水市，同时撤销原县级衡水市，改设桃城区。至2013年末，衡水市下辖3区、8县和2个县级市。
衡水市名由来
“衡水”一词始见于北魏文成帝拓跋浚的《文成帝南巡碑》，文成帝曾在信都（今冀州市）“衡水之滨”举行过规模盛大的“禊礼”。“衡水之滨”中的“衡水”，为当时穿越今冀州市境内的漳水后一段的别称，又名“横漳”或“衡漳”。隋朝开皇十六年，由河北大使郎蔚之，分下博(包括桃园、北马庄等原桃县治所周围的土地和村庄)、信都和武邑三县地，新置衡水县，治所在今衡水市旧城村，县之名称，取“漳水横流”之意。因漳水从衡水县西南入境后，不是东流入海，而是折向北流，然后入海，古人亦把这一段漳河水称为“衡水”，后因漳、滏合流，这段河水即今日的滏阳河。滏阳河与滹沱河合汇为子牙河后，入渤海。此后，衡水县名称历代沿用。
1996年7月，衡水地区撤地设市，原县级衡水市改设为桃城区。
