周代时为秦国的发源地。
公元前279年（秦昭襄王二十八年），秦设陇西郡，郡治狄道（甘肃临洮），张
家川县属陇西郡。
西汉沿袭秦制，实行郡县二级制。
汉武帝元鼎三年（公元前114年），置天水郡，辖16县，其中陇县（治张家川县城）在县境。武帝元封五年（公元前106年），置监察性质的刺史部13州，陇县属凉州刺史部天水郡辖。
东汉光武帝建武十八年（公元42年），改王莽所置州牧为刺史，凉州刺史部驻陇县（张家川县城）。明帝永平十七年（公元74年），天水郡改称汉阳郡，辖13县，撤清水、戎邑道并入陇县。灵帝中平五年（公元188年），凉州刺史部由陇县迁冀县（甘谷）。
三国魏实行州、郡、县三级制。三国初，魏复置清水县，撤陇县并入清水县。属广魏郡。之后张家川再未置县，县大部属清水县、秦安县辖。
金太宗天会八年（公元1130年），张家川县分属秦州之冶坊（治清水县黄门乡）、陇城（治秦安县陇城乡）二县。
元世祖至元七年（公元1270年），撤陇城县并入秦安县，撤冶坊并入清水县。张家川县分属秦州之清水、秦安两县辖。明清时，张家川大部仍属秦州之清水县、秦安县辖。
民国二年（公元1913年）3月，推行省、县两级制，暂存道制。张家川县大部分属甘肃省陇南道之清水、秦安两县辖。
民国24年（公元1935年），甘肃省设立行政督察区，张家川县大部属省第四行政督察区之清水、秦安县辖。
1949年10月1日中华人民共和国成立后，张家川县分属天水分区行政督察区之清水、秦安县辖。
1951年4月，天水分区行政督察区改称天水区。
1953年7月6日，析清水、秦安、庄浪、陕西陇县37乡合并成立张家川回族自治区（1955年6月改称县），属天水区。
1958年12月，张家川回族自治县、清水县合并，置清水回族自治县。
1961年12月，张家川回族自治县、清水县分设。
1969年10月至2006年，张家川回族自治县先后属天水专区、天水地区、天水市管辖。
