春秋属卫,战国归魏,秦属河内郡。西汉,县境东部置共县,西部属山阳县。
东汉、晋、北魏、东魏因之。隋开皇六年(586年),省山阳县,改置共城县,属冀州河内郡。唐武德元年(618年),置共州、辖共城、凡城二县;武德四年废州,并凡城县入共城县,唐属河北道卫州。
宋因之,行政区划属河北西路。金大定二十九年(1189年),避显宗允恭(共之谐音)之讳,改称为河平县,属河北西路。元属中书省。
明昌三年(1192年)又改称苏门县,贞祐三年(1215年)升苏门县为州,因百泉魏惠王祠有清辉殿(取谢灵运“山水含清辉”诗句命名),故以“辉”为名,称“辉州”,领苏门、山阳二县。
元代因之,后废苏门县,改山阳为镇,仍称辉州。明洪武元年(1368年)废州立县,改辉州为辉县,属河南省布政使司卫辉府。清代因之,民国16年(1927年),天门会举义,在西平罗建合平县,不久即废。
1938年2月日军入侵辉县,1943年至1944年,中共太行区委根据抗战形势,将原辉县相继划为辉县(后改辉北县)、辉嘉、新乡(后改辉县)三县。
1945年8月抗战胜利,1946年6月三县合并为辉县。
建国后,辉县属平原省新乡专区,1952年11月撤平原省,改属河南省新乡专区。
1986年撤新乡专区,辉县改属新乡市。
1988年10月撤销辉县,建立辉县市(县级),河南省管辖,新乡市代管。