隋至唐初,遂溪县域曾先后设置扇沙、椹川、铁杷三县。唐贞观元二年(628年),省扇沙、椹川并入铁杷县。唐天宝二年(743年),改铁杷县为遂溪县,霞山区自唐至清,一直为遂溪县所辖,属雷州府遂溪县二十二都。
霞山区
19世纪末,清光绪二十五年十月(1899年11月)清政府与法国签订了《中法互订广州湾租界条约》,将麻斜海与周边原属吴川、遂溪的部分陆地划为租借地,称“广州湾”,租与法国。清宣统三年(1911年)改为西营市,即霞山区前身。
霞山区民国
民国三十二年(1943年)2月20日,日本侵占广州湾,西营沦为日本殖民地。
民国三十四年(1945年)3月,日在西营设立“广州湾自治区”。
民国三十五年(1946年)2月16日,湛江市政府在西营正式成立。
霞山区新中国
1949年12月19日,中国人民解放军解放西营。
1950年成立了湛江市西营区人民政府。
1957年,撤销西营区人民政府,改设西营街道。
1958年,西营街道改为霞山街道。
1960年成立霞山人民公社。
1967年,成立霞山区军事管制委员会。
1968年撤销霞山区军事管制委员会,成立霞山区革命委员会。
1980年12月,撤销霞山区革命委员会,成立湛江市霞山区人民政府。
1984年6月,霞山区成为市辖区。