民国时期, 1918 年勃利县建立,亚河地区辖于勃利县西镇,今镇政府一带分为雅柯琴上屯(今亚东村)、雅柯琴下屯(今亚河村)。
沦陷时期, 1933 年亚河地区划为勃利县第十四甲,辖亚河沁、二龙山、青山、河口等四个村屯。 1937 年保甲制度废除,改行村制。 1938 年亚河地区的虎山屯辖于勃利县城区;青山村辖青山、楸皮沟两屯;西亚河沁辖于古城镇村。 1939 年 6 月林口建县,亚河地区划归林口县管辖。
解放战争时期, 1946 年 5 月五林建县后,亚河地区隶属于五林县第二自治区。 1947 年五林县、林口县分设后划归林口县。同年建立民主政权亚河区政府,为林口县第六区。此时六区有亚西村(今亚河村)、亚东村、兴隆沟村(今合乐村)、朝鲜屯(今永合村)、新发村(今青发村)、新合村(今利民村)、青山村、太平村(今青平村)、大二龙村、河口村、合四村(今新合村)、虎山村、二龙山屯、佛岭等村屯。 1949 年改称亚河地区。
建国后, 1956 年 4 月撤区划镇,分为青山镇、虎山镇、亚河镇等三个镇。 9 月虎山、亚河两镇撤销并入青山镇,治所青山河(今联合)。 1958 年实行人民公社制,建立亚河人民公社,治所亚河,各村称管理区。 1967 年 6 月建立亚河公社革命委员会。 1980 年改为亚河人民公社管理委员会。 1982 年亚河公社辖 18 个生产大队, 50 个生产小队,分居 23 个自然村屯。 1984 年废除人民公社制,实行镇、乡、村体制,亚河公社管理委员会改称亚河乡人民政府。2003年,经黑龙江省民政厅批准(黑民办函〔2003〕75号文件)亚河乡人民政府迁址到青山村青山煤矿,同时更名为青山乡。2010年,经黑龙江省民政厅批准(黑民区〔2010〕80号文件),青山乡撤镇建镇,更名为青山镇。