民国初年沿袭清制。
民国20年（1931年）办理自治，划渑池全县为6个区，义马市区各村镇分属于第三区（区政府设笃忠）、第四区（区政府设仁村）。
民国25年（1936年）改区设乡镇，渑池县原三、四区合并为新二区（区署设常村），辖有义马市大部分地区。
民国31年（1942年）废区设署，渑池全县划为11个乡镇，义马市区各村分属常村乡和千秋镇。
中华人民共和国成立后，义马市分属于渑池县第三区（区政府设笃忠）和第四区（区政府设仁村）。
1951年，渑池县增设千秋为第七区，辖义马市全部地区。
1956年，撤区并乡，义马属渑池县千秋镇，一部分地区（石佛一带）属洪阳中心乡。
1958年，实现公社化。
1963年，成立千秋人民公社，同年12月，划出义马、常村、三十里铺三个大队成立义马镇。
1968年，千秋公社与义马镇合并为义马公社。
1970年7月，成立义马矿区，辖有原义马公社的石佛、马庄、南河、常村、河口、苗元、程村、湾子、霍村、义马、千秋、礼召、二十铺、马岭、裴村、郭庄、付村、石门、梁沟、三十里铺等20个大队，分设千秋公社、常村公社和义马镇。
1981年4月4日，经国务院批准在义马矿区设立义马市，由洛阳行署代管，下设两个乡（常村乡、千秋乡）和四个办事处（新义街、朝阳路、常村路、千秋路）。
1986年，洛阳行署撤销，义马市归三门峡市代管。
1982年，经上级批准在千秋乡裴村、马岭建新市区。东起千秋煤矿生活区，西至本市西部边界，北至郑（州）、洛（阳）、三（门峡）高压输电网，南至千秋煤矿压煤线，总占地面积9026平方公里。白龙涧水自北向南穿市区而过，涧水以东为行政区，涧水以西为工业区。
1985年4月，市政府机关由东工地搬迁至新市区，市区逐渐形成规模。
1995年千秋乡撤乡建镇。
1996年常村乡撤乡建镇。
1998年设立泰山路办事处。
2000年，全市下辖千秋、常村两镇和千秋、朝阳、常村、新义街和泰山路五个街道办事处。
