春秋时为晋国祁氏之田。
鲁昭公二十八年（前514年），晋灭祁，为平陵大夫邑，晋司马乌为平陵大夫。
战国周安王二十六年（前376年），属赵为大陵邑（大陵即大陆），邑治在文水县武陵村北的大陵庄（原名大陵屯）。
秦朝秦始皇二十五年（前221年），始名大陵县，属太原郡。
新朝王莽-建国元年（9年），改大陵为大宁县，属太原郡。
东汉建武元年（25年），复名大陵县。
三国、晋、南北朝一直称大陵县。
北魏真君九年（448年），移寿阳民于大陵县，置受阳县（亦名西寿阳），县治在文水县旧城庄。
隋开皇九年（589年），称受阳县，属太原郡。隋开皇十年（590年），始名文水县。
唐武德三年（620年），隶汾州，武德六年（623年）属并州，武德七年（624年）又属汾州。唐贞观元年（627年），属太原郡。唐天授元年（690年），武则天称帝，改唐为周，因文水县是其故里，改文水县为武兴县。唐神龙元年（704年），中宗复位，恢复原名文水县。
五代、十国、宋，称文水县。宋元符年间（1098年至1100年），因避水患，文水古城迁于章多里之南，仍属太原郡。
金、元，属太原路，称文水县。
明、清、民国初，属太原府。明朝时，文水县编户79坊都；清朝时，文水县并为70坊都。
民国二十八年（1939年），晋西事变后，文水县成为中国共产党领导下的地区，属晋西区第八专员公署。
1949后，新设汾阳专区，文水县归汾阳专区。
1950年，文水县设七个区：一区驻地城内，二区驻地下曲镇，三区驻地南庄镇，四区驻地开栅镇，五区驻地大象村，六区驻地孝义镇，七区驻地马西村，共辖192个村。
1951年3月至1954年5月，文水县属榆次专区。
1953年5月，首次划乡，文水县划为53个乡。
1956年9月，文水县将53乡合并为21乡。
1958年3月，文水县将21乡合并为14乡。
1954年-1958年，文水县属晋中专区。
1958年11月，汾阳、文水、交城三县合并为汾阳县，文水县改称文水镇，设汾阳县文水镇办事处。
1959年9月，汾阳、文水、交城三县分置，恢复文水县建置，属晋中行政专员公署。
1971年5月1日，吕梁地区革委会（后改称吕梁地区行政公署）成立，文水县属之。
1984年4月，文水县撤销人民公社建制，改划为乡镇建制。
2001年，文水县进行撤并乡镇工作。
2004年3月，吕梁市成立，文水县属之。
