唐山在商周时代属北方侯国孤竹国的地域，当时，人们由木炭烧制、条混盘筑的方法制作三足、平底陶器，已经会制作和使用青铜器，孤竹国伯夷、叔齐的故事流传至今。
战国时唐山为燕国辖地，当时社会生产力比以前有了明显提高，经济和文化向前发展一大步，有了多且精的陶器、铜器。武器和生产工具铜制、铁制并见。
秦汉时唐山为右北平郡、辽西郡、属幽州。西汉时已经开始学习种植水稻，兴修水利，同时也使冶铁、铸铁、煮盐业发达起来，设官吏专门统管盐铁。
魏、晋、南北朝时期唐山地区仍分属幽州的右北平郡和辽西郡，聚居在这里的各民族相互取长补短，实现着民族文化的融合。
隋朝把汉代的州、郡、县三级行政改为州、县两级，今唐山地区东部属北平郡。
贞观十九年（645年）二月，唐太宗李世民亲率10多万唐军东征高丽（统治区在今辽河以东及朝鲜半岛北部）。经过半年多的苦战，虽然夺取了十几座城池，但在攻打安市城时，遇到了高丽军队的顽强抵抗，久攻不克，粮草将尽。辽东早寒，草枯水冻，唐太宗于九月下令班师。太子李治从长安千里来迎。
唐太宗率3000骑后入临渝关（今山海关），在今唐山滦县一带和太子相遇。此时，唐太宗所穿的战袍已旧敝不堪，为他献上了新衣，之后又途经今唐山回都。唐太宗率军途经唐地，曾在大城山上屯驻，以后此山遂名“唐山”，这是唐山得名的开始。唐太宗其爱妃曹妃不幸病逝。李世民念其爱妃，特别允许使用国名，将此山命名为唐山。之后成为市名。
唐朝出于屯兵和积粮的需要，在今唐山一带建了许多城池，如平安城（今遵化平安城）、万年城（今迁相三屯营北）、平州城（今卢龙县）、马城（今滦南马城）等，还建筑了一些要塞。又修建了兴唐寺（在今唐山南郊）、净觉寺（在今玉田）等寺庙。
辽金属南京道、中都路、北京路，元为中书省、大都路、永平路，明、清属顺天府、永平府、遵化州。 清光绪三年（1877）建乔屯镇，后改为唐山镇。清代分属直隶省永平府和遵化直隶州。随着清代晚期 “ 洋务运动 ” 的兴起，清光绪三年（ 1877年）在这里设开平矿务局，引进西方先进技术办矿挖煤。
1938年，唐山正式建市。这里是中国近代工业发祥地之一。中国第一座现代化煤井、第一条标准轨距铁路、第一台蒸汽机车、第一袋机制水泥、第一件卫生瓷均诞生在这里，唐山市被誉为 “ 中国近代工业的摇篮 ” 和 “ 中国北方瓷都 ” 。
唐山不仅有悠久的历史，灿烂的文化，而且具有光荣的革命传统，在近现代史上为中国革命事业作出了巨大的贡献。在英法联军侵略中国时．唐山各县就在京津义和团的影响下，成立了“义和团”、"红灯照"，有力地抗击了帝国主义的侵略。
1911年12月著名的滦州起义，1922年唐山就建立了中国共产党唐山地区组织，有组织有领导地开展革命斗争。开滦五矿工人同盟大罢工，成为中国第一次工运高潮中最重要的罢工之一。唐山玉田农民武装暴动，是北方农民第一次举起土地革命的红旗。抗日战争时期，举行了著名的冀东抗日暴动。解放战争时期，伟大的唐山人民又成为支援辽沈、平津两大战役的主要后方基地，冀东人民动员人力、物力、财力以“倾家荡产”的巨大牺牲精神，全力支援了两大战役，为战役的胜利作出了巨大的贡献。
在唐代时原为一片村落，从明朝起有一定程度的开发，主要为农业、采石油和制陶业。
随着清代晚期“洋务运动”兴起，清光绪三年（1877年）在唐山设开平矿务局。1878年唐山建乔屯镇，1889年改名唐山镇，1938年正式建市。
民国元年（1912年）政区建制均袭清制，1929年，直隶省改称河北省，1939年1月28日，伪冀东防共自治政府鉴于唐山具有经济、政治上的特殊地位明令唐山设市，初称“唐山市政府”，后改称“唐山市公署”，日本宣布投降后，驻北平的国民党派员接收日伪政权，设置督察专员公署，1946年4月，中共河北省委员会第132二次会议通过唐山设市，同年5月5日，唐山市政府成立。
1949年10月1日，中华人民共和国成立后，唐山市仍为省辖市，辖区12个。
1955年3月，唐山市第一届二次人民代表大会将唐山市人民政府改为唐山市人民委员会。辖区未变。
1958年4月28日，国务院批准唐山市规划唐山专区领导。同年8月29日，河北省第一届人民代表大会第七次会议决定，唐山专员公署驻地由昌黎县迁至唐山市。
1959年6月3日，经中央决定，唐山市为全国45个开放城市 之一。6月8日中共河北省委、省人委决定，唐山专署和唐山市人委合并改设唐山市人民委员会。
1960年4月2日，国务院正式批准撤消唐山专区，原唐山专区管辖的秦皇岛市和迁安、昌黎、乐亭、宝坻、玉田、蓟县、遵化划归唐山市。唐山专区撤消后实际划归唐山市的还有滦县、丰润两县（原为市辖区）和柏各庄农场。同时，唐山市改为省辖市。
1961年5月23日，经国务院批准恢复唐山专区的建制。同年6月1日，河北省人民委员会第14次会议通过恢复唐山专区的决议。从此，唐山专、市分开，唐山市改为专辖市。
1968年1月6日，唐山市革命委员会成立，隶属于唐山地区革命委员会。
1978年3月11日，唐山市改为省辖市。
1982年10月，唐山市第七届人民代表大会撤消唐山市革命委员会，建立唐山市人民政府。
1983年3月3日，国务院批准撤消唐山地区，实行市管县体制。同年5月13日，河北省人民政府通知撤消唐山地区行政公署，5月15日，唐山地区行政公署停止办公。
1984年12月15日，国务院批准唐山市为全国13个“较大城市”之一。是经国务院批准具有独立立法权的城市之一。
