白河市区形成肇因于关子岭山区物产运往盐水港交易，古时人民以担挑、推车载运货物，行出山区进入平原地区时越过白水溪，有歇脚补给之必要，遂有人于溪畔搭棚经营小店，提供餐饮休息需求，交易情形日渐热络，进而在今市区所在地形成一个聚落，故市区旧称店仔口，曾多次隶属嘉义县与台南县之间，清时与日治初期设有店仔口堡、店仔口庄。
1920年（大正九年）行政区改制，属台南州。原预订命名为“店口庄”，唯后来以白水溪流经，成立白河庄，1943年升为白河街、战后改为镇。2010年12月25日改称白河区。
按1926年“台湾总督官房调查课”所做之“台湾在籍汉民族乡贯别调查”，彼时台南州分十郡两市，而属今台南县境的为新丰、新化、曾文、北门、新营五郡，新营郡下有新营街、白河街、塩水街、后壁庄、番社庄、柳营庄，其时白河与盐水人口与商业均较新营繁盛，但新营因有纵贯铁路初落成，遂成郡治所在，民国45年（1956）台南市升格成省辖市后，台南县政府迁设于新营镇，并改制为新营市，发展始渐盛其他。
白河区民祖籍按前述日治时期调查，祖籍以漳州人为主，占93%，潮州占3%，泉州籍数量极少，另有少数客家人因水库兴建移居林子内、部份平埔族西拉雅原住民居住于白水溪、六重溪等沿山地带。
白河做为嘉南平原与关子岭山麓的产业集散中心，在农业时代占有与足轻重的地位，与盐水、新营、善化、麻豆、佳里、学甲、新化并称为台南县八大古镇。
白河镇原有25里，民国67年（1978）下角里并入外角里，遂成现今之24里。
今日白河区仍为邻近东山区与后壁区（主要指纵贯铁路以东）的小生活圈中心，但由于人口严重外流与人口都市化集中的结果，功能日益低落。
民国99年（2010）12月25日，因台南县与台南市合并，原台南县白河镇之行政分区名称改为台南市白河区，仍辖24里 。
