巴马地域,据史料记载,秦统一前,境地属古百越地。秦始皇33年(公元前214年),秦出兵统一岭南地区,巴马境地属桂林郡。汉初,隶属南越国。元鼎六年(公元前111年),汉武帝平定南越,置九郡,巴马境地以盘阳河为界,河以北属定周县地(治所今宜州市),河以南属增食县地(治所今田阳县),同属交州郁林郡。三国因之。晋朝大兴元年(公元318年),置晋兴郡,巴马境地属晋兴郡增翊县。隋朝开皇九年(589年),隶属郁林郡宜化县。
唐懿宗咸通三年(862年)岭南道分东道和西道,在邕管境内的少数民族地方设置羁縻州、县垌。在县境地东南部始设置羁縻恩城州(治所在今那桃周旧村),其余境内大部属羁縻归乐州,同隶属邕州都督府。北宋初年,仍沿唐制,施行“以夷治夷”的土司制度。崇宁五年(1106年)巴马境地北部置羁縻文州,后置绍南寨、思阳县(州、寨、县治所在今盘阳一带),属庆远府(今宜州市);境地南部置羁縻上隆州(治所在今燕洞),属横山寨(治所在今田东县),隶属邕州(治所在今南宁市)。元袭,文州属湖南道思州民安抚司,上隆州属田州路。明洪武十二年(1379年),东兰知州归附,省文州入,巴马境地北部属东兰州地,南部属田州府。嘉靖七年(1528年),王守仁抚定田州,降田州府为州治,因分州地置十九土巡检司,在巴马境内的南部诸地置岜马、万冈、篆甲(今甲篆)、下隆(今平林至大化乙圩一带)、砦桑(今局桑)土巡检司。清雍正七年(1729年)置哨,巴马境地北部哩喇哨(今盘阳一带)、泗苟哨(今凤凰一带),改属东兰州,同属庆远府。光绪元年(1875年),田州改土归流,设置恩隆县,巴马境地原属土田州的上隆、下隆、篆里一、二、三都(今那桃乡)划归恩隆县管辖,恩隆县治设于燕洞圩(光绪五年县治迁至平马圩);余下的篆里四都(今巴马)、龙篆三里(今甲篆)归百色同知,同属百色直隶厅。
民国初期,巴马境地分属凤山、田东和百色县。
巴马地置边陲,大革命时期起,这里是右江革命根据地的中心之一。
1934年冬至1935年初,国民党广西省当局出于镇压革命需要,以“开化边民,施政便利”为由,设立万冈县,县治在定巴乡巴马圩;辖境系原凤山县的盘阳、凤凰乡,百色县的定马、月篆、所略、百羌乡,田东县的巴品、仁德、燕乐、洪都、羌桂、灵歧、凤桥、鹅桥、罗贤等乡;1935年6月,增辖原凤山县的福邦乡,共计16个乡,137个村(街)。
1949年12月1日,万冈县解放,境地、县治袭旧万冈县不变。
1953年4月23日,政务院正式批准,裁撤万冈县。裁撤后,月篆、所略、福邦归凤山县管辖;凤桥、鹅桥、百羌归田阳县管辖;西山、盘阳、定马、凤凰归东兰县管辖;罗贤、仁德、巴品、羌桂、灵歧、洪都、燕乐归田东县管辖。
1956年2月6日,成立巴马瑶族自治县,县治在巴马街,1956年12月,属桂西壮族自治州百色地区。
1958年1月百色地区改为百色专区,巴马亦属百色专区管辖;1965年5月巴马县改属河池专区管辖;1971年改属河池地区。2002年6月,河池地改市,巴马瑶族自治县属河池市管辖。