秦时南部改属代郡、北部属上谷郡。
汉时大部分属幽州地界,小部分属乌桓、匈奴、鲜卑。
隋时东为涿郡,西属雁门郡。唐时北属突厥地,桑干都督府,南多属河北道妫州、新州,少属河东道蔚州。
北宋时张家口市皆属辽之西京道。
南宋时皆属金之西京路。
元时张家口市皆属中书省。
明时张家口市除蔚县一带属于山西大同府外,其它皆属京师(治顺天府,北京市)。
清时北属口北三厅(多伦诺尔厅、独石口厅、张家口厅),南属宣化府(治今宣化)。
民国二年(1913年)属直隶省察哈尔特别区兴和道和口北道。
民国十七年(1928年)设察哈尔省,张家口为省会。抗日战争时期,张家口市多个县成立抗日民主政府,直到抗日战争胜利后,重设察哈尔省建制。
1952年11月察哈尔省建制撤销,察南、察北两专区合并后称张家口专区,划归河北省,张家口市为专区治所,张家口、宣化两市划属河北省。
1958年5月张家口市改属张家口专区。
1959年5月撤销张家口专区,所辖各县划归张家口市。
1961年5月复置张家口专区,张家口市及所属各县隶属之。
1967年12月,张家口专区改称张家口地区,辖张家口市,县属不变。
1983年11月,张家口市改为河北省省辖市。
1989年12月,张家口市撤销茶坊区、庞家堡区。
1992年,经河北省政府批准,张家口市成立高新技术产业开发区(简称“高新区”),1993年7月1日,张家口地、市合并,称张家口市,实行市管县体制。
2003年3月,察北牧场、沽源牧场由河北省农垦局划属张家口市,改为察北管理区、塞北管理区。
2004年4月,市委,市政府将高新区和南新区合并为高新区。
2010年3月22日,经市委、市政府批准,张家口市产业集聚区成立。
2015年7月,国务院批复同意设立河北省张家口可再生能源示范区。
2016年1月27日张家口市部分行政区划调整获国务院批复,同意撤销宣化县、宣化区,设立新的宣化区,以原宣化县大部分、宣化区的行政区域为新的宣化区的行政区域,政府驻地在原宣化区人民政府驻地;撤销万全县、崇礼县,设立万全区、崇礼区,管辖范围和政府驻地不变;将原宣化县的大仓盖镇、东望山乡划归张家口市桥东区管辖,将原宣化县的沙岭子镇、姚家房镇划归张家口市桥西区管辖。
张家口主城区面积由868.96平方公里扩大到6377.81平方公里,人口由111.37万人增加到175.42万人。