遂溪县历史悠久，最早可追溯到新石器时代中期。
公元前355年，隶属楚国，后为百越边境。秦始皇三十三年（公元前214年）归属象郡。秦末汉初，遂溪以至雷州半岛为南越之地。
西汉元鼎六年（公元前111年），伏波将军路博德领兵平南越，置合浦郡徐闻县，遂溪属徐闻县。三国时
遂溪初属蜀，蜀失荆州后归属吴国珠官郡（后为珠崖郡）。
隋文帝开皇九年（公元589年）称合州。开皇十年设置铁杷县。开皇十八年改椹县为椹川县。大业初改合州为合浦郡，椹川县并入扇沙县。
唐武德初又再设椹川县，改合浦郡为南合州。唐太宗贞观元年（627年）更名为东合州，将椹川、扇沙并入铁杷县，归属东合州。贞观八年（634年），雷州刺史陈文玉奏请朝廷批准，把东合州更名为雷州，雷州同此而得名。天宝元年（742年）改雷州为海康郡。
遂溪县设治后
唐天宝二年（743年）改铁杷县为遂溪县，意取“溪水合流，民利遂之”。遂溪县属海康郡，县治设今湛江市郊旧县村，此为遂溪得名之始。唐肃宗乾元元年（758年）恢复海康郡为雷州。
北宋太祖开宝四年（971年）改雷州为雷州军，将遂溪并入海康县。五年，又恢复雷州。南宋绍兴十九年（1149年）又再设置遂溪县，县治设在现今遂城。
元至元十五年（1278年）为雷州路。
明太祖洪武元年（1368年）更名为雷州府。
清承袭明代的体制，仍为雷州府，辖遂溪等县。
民国二年（1913年），遂溪属高雷道，十五年属南路行政委员会，二十一年属南区绥靖公署，二十五年属第八行政区督察专员公署，三十八年属第十四区公署。
1949年11月遂溪县解放。
1957年11月遂溪与廉江、海康南渡河北合称雷北县，麻章划归湛江市管辖。
1960年改为雷州县。
1961年分县，恢复遂溪县建制。属湛江专区（后改湛江地区）管辖。
1983年9月属湛江市管辖。
