春秋时,祁地属晋,当时的祁地,几乎包括整个晋中平川。公元前556年,晋平公将祁地赐给大夫姬奚作食邑。姬奚以地为姓,改姓为祁,即历史上有名的“外举不避仇,内举不避亲”的祁黄羊。他的城邑在今祁县的古县镇下古县村。公元前514年,祁奚的孙子祁盈因故被杀,食邑随之没收。晋分祁奚之田为邬(今介休)、祁(今祁县)、平陵(今平遥、文水)、梗阳(今清徐)、涂水(今榆次、太谷)、马首(今寿阳)、盂(今盂县)等七部分。祁县的境地,基本上是从那时候确定的。
战国时期,祁地属赵国。
秦代,祁地属太原郡。
西汉初置祁县。王莽篡汉,改祁为示,后复祁县。
晋代恢复分封制,祁县属太原国,县城迁到祁城村。
北魏时,祁县属大原郡。孝文帝太和年间,迁县城于今址。北齐天保七年废祁县。
隋开皇十年重置县治,属并州。
唐武德三年,属太州。后复属并州。
金代,在县东南之团柏镇设帻州,县属之,不久帻州废,县属晋州,改祁为祈。
元大德年间,复称祁县,属冀宁路。
明、清两代属太原府。
民国初年属冀宁道。
民国二十六年(1937年)底属山西省第四行政区。
解放后属榆次专区,后改称晋中地区,1999年撤销晋中地区设立晋中市,属晋中市。