中山古称“香山”，地多神仙花卉，故曰香山。在距今5000多年前的新石器时代，中山只是珠江口伶仃洋上的一个岛屿，此时就有古越族人在此渔猎、生活。近十几年，在中山发现了多处新石器时代的古人生活遗址，包括有南朗镇的龙穴彩陶遗址、石岐区的白水井遗址、大涌镇的全禄遗址等，出土了一批彩陶、磨制石器、夹砂陶器等文物。其中，南朗镇的龙穴遗址还是一个由新石器时代直至春秋战国时期的沙丘遗址，在后期的遗存中还发现有青铜器和铸铜石范等物。
前214年，秦始皇平定岭南地区的百越之地后，中山属南海郡番禺县辖地。
秦朝末年，赵佗创立南越国，中山属南越国领地。
前111年，汉武帝灭亡南越国，中山重回汉朝中央管辖。
秦汉时期，中山除了原先生活在此地的南越人外，开始有少量的中原人移居至此。
三国时，中山属于吴国领地。
西晋末年，晋朝皇族之间爆发了史称“八王之乱”的宫廷权力争斗，为躲避战乱，大批中原人口移居岭南，其中一部分来到香山岛上。
东晋咸和六年（331年），南海郡分出东官郡，中山改为东官郡辖地。
南北朝时期的刘宋永初元年（420年），东官郡改为东莞郡，中山属东莞郡辖地。
隋朝开皇十年（590年），中山属宝安县（古东莞县）辖地。
唐朝至德二年（757年），宝安县更名东莞县，中山属东莞县辖地。因为中山盛产海盐，官府开始在今珠海市山场村设立了名为香山镇的军事营镇。
北宋元丰五年（1082年），设立香山寨，仍属东莞县。
南宋绍兴二十二年（1152年）由于香山寨的发展，升级为香山县，中山始有县级行政区划，此时的香山县隶属于广州府。
南宋末年，宋端宗在元军的追杀下，曾逃往香山躲避，南宋灭亡后，大批南宋皇族和官员的后裔流落定居于香山。
明朝，香山北部地区开始淤积成陆，此时才与大陆相连。
清朝，珠江三角洲一带开始逐步修筑防洪防潮的河道堤围，香山县围垦的田地在不断增加，农业产量也在提高。
在清朝嘉庆年间，由于农业的发展，香山由原来的下等县改成与南海、番禺、东莞等县同列的大县。
中山近现代
辛亥革命后属广东省。
1925年（民国14年）4月15日为纪念孙中山先生改名为中山县。
1949年后，先后属珠江、粤中、佛山地区。
1953年3月12日内务部批准设立石岐市（省辖市），以中山县石岐镇的行政区域为其行政区域。
1959年3月20日国务院批准撤销石岐市，将原石岐市的行政区域全部划归中山县。
1983年12月22日，经国务院批准，中山县撤县改市（县级），由佛山市代管。
1988年1月7日，升为地级市。
1951年1月，中山县设置1个区级镇（石岐镇）、11个区。
1953年3月改设17个区、3个区级镇。同年6月，中山县分出珠海县后，全县设15个区，3个区级镇。
1955年8月，全县各区均以区（镇）所在地命名。
1957年2月，撤区改设乡，15个区改划为34个大乡。
1958年8月，各大乡建立人民公社。同年10月，全县34个公社合并为7个大公社，实行政社合一体制，全县共辖34个耕作区。
1959年10月，石岐公社改为石岐镇；12月，经广东省人民委员会确定为县级镇，仍称中山县石岐镇，属中山县和佛山专区双重管辖。
1961年8月，恢复区建制，其中张家边区辖榄边、南蓢、翠亨等7个公社。
1963年初，撤销区建制。
1976年12月，全县设3个区级镇、25个公社。
1983年11月，撤销公社，改称区公所，下辖乡（乡级镇）。
1984年2月，撤销石岐镇，设立中山市石岐中区、石岐烟墩区、石岐岐江区、石岐莲峰区、石岐西区，为市委、市政府的派出机构，该5个区称作城区。
1986年7月，从南蓢区划出4村成立翠亨村镇；12月，撤区改镇建制，并扩大市区范围，郊区和环城、张家边划入市区。
