原始社会的晚期—新石器时期（1万年前－4000年前），已有人在大岭山地域内过着狩猎的流动生活。
唐肃宗至德二年（757年），宝安改为东莞，县治从南头移迁到涌（即今莞城），将原南头宝安县治改为东莞郡治。大岭山地属东莞。
南宋高宗绍兴22年（1148年），分东莞的香山镇立为香山县（即今中山市）。此时，先后有梅林、太公岭、大塘、颜屋、杨屋、元岭、马蹄岗等村落。马山庙在北宋时已建立。
元代设广州路总管府，领县有七：南海、番禺、东莞增城、香山、新会、清远。
明太祖洪武元年（1308年）大岭山仍属广州府的东莞县。
明万历元年（1573年），东莞县属新安县（即今宝安县、县治在南头）。此时，
大岭山镇仍属东莞县。
清代道光20年（1840年），大岭山地区的建制与清代同。
建国前（1912年-1949年），东莞县属粤海道，后属中区绥靖委员会公署。
1934年，大岭山镇地属第七区，（包括附城、篁村、寮步一部分及大岭山全部地域）。村落有：大松朗、矮岭冚、大塘、水浸朗、鸡翅岭、马蹄岗、新塘、太公岭、百花洞、梅林、连平段、大片尾、坑尾、三家村、元岭及金桔农场、底下埔兆丰农场、月山农场、沙井岭农场。
1946年，大岭山镇地属第三区。包括金桔乡（由大沙、金桔、犀牛陂等小乡在当年8月并入）、濂平乡（由连平和厚街的环治、篁村的杨西等小乡并入）、怀德乡之大塘、水朗两村。
1948年至1949年，大岭山镇包括第一区的濂平乡、第三区的金桔乡，第五区的怀德乡一部分，其中濂平乡包括：第六保的新飞鹅，第七保（大石板、连平圩、髻岭、上高田、下高田），第八保（大湾、新屋场、畔山），第九保（大王岭、油古岭、瓮窑）；金桔乡包括：金桔岭的第一保、第二保、第三保（含并朗村），第四保（含下虎山、梅林叶屋、月山）。第五保（大片尾），第六、七保（矮岭冚），第八、九保（马蹄岗），第十、十一保（新塘），第十二保（大塘朗、大坑），第十三保（上底、福田），第十四保、第十五保（浮竹山），第十六保（小坑），第十七保（长坑），第十八保（黄公坑、甘屋村、连塘头、水车岭、坑尾、小洞），第十九保（元岭），第二十保（宝陂），第二十一、二十二保（犀牛陂），第二十三保（杨屋村），第二十四保（杨屋、水围、颜屋、坑尾），第二十五保（杨屋），第二十六保（鸡翅岭），第二十七保（大沙、景山），第二十八保（大沙圩、桥头、长镇岭、龙山、龙岗、黄沙坑），第二十九保（太公岭、梅林、邝屋），第三十保（百花洞）怀德乡的第十二、第三、第十四保（大塘），第十五保（水朗）。
大岭山镇建国后
1950年上半年，区乡调整后，大岭山境内划为二区。包括：犀杨乡（杨屋、颜屋、犀牛陂、宝陂、大磡）。塘朗乡（大塘、水朗）。金马乡（金桔、新塘、马蹄岗、叶山、下虎山）。大沙乡（景山、大塘朗、鸡翅岭、元岭、龙山、太公岭、矮岭冚、大片尾、龙江）。连平乡（大王岭、上油古岭、下油古岭、瓮窑、百花洞、大湾、梅林、大石板、连平圩、新屋场、畔山、髻岭、上高田、下高田、旧飞鹅、新飞鹅）。
1952年8月，土改期间，区乡变化调整后，大岭山镇境内仍为二区。包括：金桔、马蹄岗、塘朗、矮岭冚、杨屋、连平等乡。
1953年1-3月间，东莞县划分为15个区后，大岭山镇内撤销二区建立三区。包括马蹄岗、金桔、连平、矮岭冚。一小部分为九区。包括塘朗、杨屋。
1953年5月，土改复查后，区乡调整，大岭山镇内，大部分属三区辖，小部分属十区辖。三区包括矮岭冚乡（龙江、龙山、太公岭）。马蹄岗乡（马蹄岗、新塘、元岭、大塘朗、大坑）。金桔乡（金桔、景山、下虎山、鸡翅岭）。连平乡（连平、大石板、百花洞、上油古、下油古、大王岭、旧飞鹅、髻岭、梅林、下高田、上高田、大环、新飞鹅、大片尾、新屋场、畔山、瓮窑）。十区有杨屋乡（杨屋、石岭仔、鱼岭、颜屋、水界岭、草塘、长山英、坑尾、官陂）。塘朗乡（大塘、水朗）。
1954年7月1日，区乡变化，将原来十区的杨屋、塘朗两乡，再划入三区。
1957年12月26日，大岭山镇仍为第三区（寮步区）所辖。在东莞县分为37个大乡时，大岭山区境内并为金桔大乡。包括杨屋、塘朗、矮岭冚、金桔、马蹄岗、连平、犀牛陂等小乡。
1958年3月28日，金桔大乡改为大沙大乡。
1958年9月20日，大沙大乡并入寮步大乡，10月1日，成立寮步人民公社。此时大岭山境内有：连塘营（大塘、水朗、杨屋、颜屋），大岭营（大岭、矮岭冚、大片尾、百花洞），大沙营（大沙、金桔、鸡翅岭），岭东营（连平、旧飞鹅、梅林、太公岭、大环、大地），骏马营（马蹄岗、大塘朗、新塘），上游营（大岭山农场、元岭）。
1961年6月21日，由寮步人民公社析出大岭山人民公社。包括：大塘朗、马蹄岗、新塘、金桔、鸡翅岭、大沙、连平（含旧飞鹅）、梅林、大环、百花洞、太公岭、大片尾、矮岭冚、大岭、水朗、大塘、杨屋（含颜屋）、农场（含元岭）、下高田等19个大队。
1964年7月1日，在原来19个大队的基础上，分为21个大队，元岭从农场分出来，颜屋从杨屋分出来。
1968年11月，大岭山公社将原来21个大队调整为14个大队。包括：大塘朗、马蹄岗、新塘、金桔、大沙（含鸡翅岭）、、农场、元岭、向东（即矮岭冚、含大片尾、月山）、大岭、大地（含百花洞、大地、太公岭、梅林、大环）、连平（含旧飞鹅）、杨屋（含颜屋）、大塘、水朗。
1979年大岭山公社将14个大队又调整为22个大队及一个圩镇居民委员会。即大塘朗、马蹄岗、新塘、元岭、金桔、大沙（含龙山、下虎山）、鸡翅岭、连平、梅林、大环、百花洞、太公岭（含龙岗）、大片尾、矮岭冚（含月山）、大岭、水朗、大塘、杨屋、颜屋、农场、旧飞鹅、下高田（大地）和圩镇居民委员会（含龙岗村）。
1983年11月撤社建区，大岭山公社改称为大岭山区，设区公所。
1984年5月，大队改为乡，成立乡人民政府。圩镇居民委员会（含龙岗村）改称为“大岭山镇人民政府”（乡级）。
1986年11月，撤区建镇，成立大岭山镇人民政府，将原来23个乡镇级人民政府改称为22个管理区及大岭山圩镇居民委员会。
1999年6月，撤区（管理区）设村（民委员会），将22个农村管理区改称为村民委员会，即大塘朗、马蹄岗、新塘、元岭、金桔、大沙、鸡翅岭、连平、梅林、大环、百花洞、太公岭、大片美、矮岭冚、大岭、水朗、大塘、杨屋、颜屋、农场、旧飞鹅、下高田（大地）村民委员会，大岭山圩镇居民管理区称为大岭山圩镇居民委员会，与村同级。
2004年7月开始，大岭山镇进行了农村体制改革，实行农村股份制，撤村改社区，至2005年底，成立了农场社区、大岭山社区两个社区，其余21个村民委员会将逐步改制为社区。
