地属辽东外徼。
西汉初属幽州刺史部辽东郡。
东汉属高句丽。
三国初属高句丽。公元242年（正始三年），魏幽州刺史毋丘俭讨高句丽，本地复属玄菟郡。晋为高句丽地。公元343年（康帝建元元年），本地属燕（前燕）。公元370年（晋海西公太和五年）前秦灭前燕，本地归前秦。公元404年（后燕昭文帝光始四年）高句丽复侵辽东，本地归高句丽。
南北朝属高句丽。
隋属高丽。
唐初属高句丽。公元668年（高宗总章元年）唐灭高丽，本地属安东都护府哥勿州都护府。公元713年（玄宗开元元年）本地属渤海国。并在今白山市临江所在地置神鹿县，为神州治所。公元873年（懿宗咸通十四年，渤海大玄锡三年）置鸭绿江府于神鹿，为西京附郭，领神州（今临江市）、桓州（今集安县）、丰州（今抚松县）、正州（今通化市）。
五代初归渤海。公元926年，辽灭渤海，改建东丹国。其后，
渤海移民以今白山市为中心，建立定安国。
宋初属定安国。公元982年（宋太宗太平兴国七年，辽景乾亨四年）并入辽。
辽属东京道。在今临江置渌州驻鸭绿江军节度使。领弘闻、神乡二县（今白山市）、桓州（今集安县）、正州（今通化市）、慕州（今柳河县）。
金为东京路婆娑府地。
元属辽阳行中书省沈阳路辖地。
明属奴儿干都司建州卫。公元1591年（神宗 万历十九年）为努尔哈赤所并。
清初属吉林副都统辖区。
1902年清政府依盛京将军增祺、奉天府尹玉恒奏请，划通化县东部地方设治猫耳山，置县名临江，属吉林副都统辖区兴京厅。设八道江巡检属通化县（1908年划归临江县）。
1907年，（光绪三十三年）废除将军制，东北实行行省制本地属奉天省，仍辖于兴京厅。
1909年5月（宣统元年），置林长海等处分巡兵备道于临江县。领长白、海龙两府，临江县、通化县、集安县。
中华民国初仍沿袭清朝建制。
1913年（民国二年）奉天省设东、西、南、北、中五路，白山地区属奉天省东路道。
1915年改八道江分防巡检为八道江佐治局。
1934年（东北沦陷时期）改属伪安东省。
1937年划归伪通化省。
1945年祖国光复后，划归安东省通化专署所辖。
1946年划归辽宁省。
中华人民共和国初属辽东省。
1954年8月20日划归吉林省，隶属通化地区。
1959年，3月23日吉林省委批准撤消临江县设置浑江市。
1960年1月7日国务院批准浑江市府驻八道江镇，隶属通化地区。
1985年2月4日，国务院批复撤销通化地区，实行市管县体制，通化地区分治。通化地区下辖通化、浑江两县级市升格为地级市。
1986年9月8日，国务院批准设立浑江市八道江区、临江区、三岔子区。
1992年9月1日，民政部批复（民行批[1992]95号）同意撤销浑江市临江区，设立临江县。
1993年11月28日，民政部批复（民行批[1993]237号）同意撤销临江县，设立临江市。
1994年1月31日，国务院（国函[1994]8号）批复同意将浑江市更名为白山市。4月，浑江市正式更名为白山市，辖临江市、靖宇县、抚松县、长白县、三岔子区和八道江区，市委市政府驻八道江区。
1995年12月30日，国务院批准撤销白山市三岔子区，设立江源县。
2010年2月22日，民政部下发了“关于吉林省白山市八道江区更名为浑江区的批复”（民函[2010]40号），经国务院批准，吉林省白山市八道江区更名为浑江区。
截至2010年7月，白山市下辖2个市辖区、2个县、1个自治县，代管1个县级市：浑江区、江源区、临江市、靖宇县、抚松县、长白朝鲜族自治县，市人民政府驻浑江区。
