在距今约4500年的西平杨庄新石器文化遗址中发现有地面式房基、儿童瓮棺、窖穴、精致的石器和各种各样的陶器，说明这里已有房屋和村庄，产生了农业、畜牧业，制陶制石的手工业也比较发达。周灭商后，周武王分封诸侯，分其兄度据蔡。这里有蔡（今上蔡县）、吕（今新蔡）、沈（今平舆县及汝南县东部，正阳县北部）、江（今正阳县及确山县南部）、道（今确山县北部、汝南县西部和驿城区）、房（今遂平县）、柏（今西平县）、中（今泌阳县）等小封国。这些小封国先后被楚国吞并，战国七雄长期在这里相互攻伐。
公元前221年，秦统一六国。秦始皇废分封，设郡县，先属颍川郡（治所今禹州市）。后属陈郡（治所今淮阳县）、在秦灭六国，建立封建的统一王朝的战争中，丞相李斯（今上蔡人）起了重要作用。由于秦王朝的残暴统治，公元前209年爆发了汝南人陈胜领导的中国历史上第一次农民大起义，起义军攻占陈县（今淮阳县）后，建立“张楚”政权后陈胜被叛徒杀害，但秦王朝终于在农民起义的烈火中覆灭。
西汉高帝四年（公元前203年）置汝南郡，郡治汝阳，隶属豫州刺史部，辖汝阳（今汝南县），安成（今汝南县东南）、阳城（今平舆县西北）、新蔡（、慎阳（今正阳县）等37县。两汉时期，汝南郡的经济、文化逐步发展，出现了繁荣景象。汉武帝元光年间，汝南郡兴修了鸿隙陂，跨今平舆、汝南，正阳、新蔡、息县五县，灌溉农田数万亩。西汉元帝时在今泌阳县修了马仁陂，灌溉农田万余顷。东汉和帝永元年间，汝南太守何敞在鸿隙陂修复鲷阳旧渠（在今新蔡县北），新垦水田3万多顷。灵帝中平年间，汝南太守调集民工在鸿隙陂大坝上用石块修筑水闸，进一步扩大了灌溉面积。汉代鸿隙陂、马仁陂等水利工程的兴建，大大改善了农业生产条件，使汝南郡成为全冈最富庶的地区之一。两汉时期汝南郡人才辈出，在《后汉书》和《风俗通义》中列有传记、留下姓名的汝南郡官吏、名士达100多人，因此有“汝半朝”、“汝南固多奇士”之称。
三国时期，今天汝宁市属魏，为汝南郡、南阳郡分辖。西晋分汝南郡置汝阴郡。东晋时先属前秦，后属东晋、后秦、后赵、前燕。南北朝时期大部属汝南郡。南朝宋文帝在汝南郡治所侨立司州，始称汝南为悬瓠。北魏初改司州为豫州，以后又多次更名。隋大业初改为汝南郡，隶属豫州，泌阳属豫州淮安郡。唐宋时期分属蔡、唐二州。唐玄宗天宝元年，更州为郡，唐肃宗乾元初又改汝南郡为豫州。恢复唐州。宝应初代宗讳改豫州为蔡州。宋高宗建炎三年（1129年），金攻陷蔡州，置蔡州镇南军。公元1234年，金哀宗从开封逃到蔡州（今河南汝南），南宋乘机与蒙古联合攻破蔡州，金国亡。元初分属蔡、息、陈、唐四州。元至元三十年（1293年）升蔡州为汝宁府，泌阳归南阳府。
驻马店近代
明清时期，今驻马店市分属汝宁府和南阳府，隶河南道。经过元末多年的战争，汝宁地区人口锐减，满目荒凉。明太祖下令把太湖流域和山西无地农民迁至豫南。当时汝宁府各县接收大批移民。
1860年以平舆为中心爆发了陈大喜领导的捻军大起义。
1900年为响应义和团的反帝斗争，确山、泌阳、遂平等地掀起了反洋教斗争，反抗帝国主义的宗教侵略。
民国二年（1913年），汝宁府归属豫南道管辖．1918年豫南道改称为汝阳道。
1927年废道，国民党设河南省行政第八区专员公署，驻汝南。5月15 日至17日，北伐军与奉系军阀在上蔡、西平展开激战，北伐军取得重大胜利；从此，北洋政府在河南的统治宣告终结。
抗日战争爆发后，驻马店人民高举抗日民族统一战线的旗帜，积极组织抗日武装。
1937年11月鄂豫边省委改为豫南特委，将豫南红军游击队改编为豫南人民抗日独立团，不久又改编为新四军第四支队第八团队。
1938年元门，第八团和中共豫南特委进驻确山县竹沟镇。
1939年11月11日，国民党地方武装1800余人，突袭新四军第八团竹沟留守处，残杀新四军干部、战士、伤员、家属及革命群众200余人，制造了震惊全国的“竹沟惨案”。
1944年，汝南、确山、西平、遂平、上蔡等地相继沦于日寇之手。
1949年初淮海战役结束后、全市各县先后获得解放。驻马店人民群众，终于在党的领导下，送走了黑暗，迎来了黎明。
1949年3月，建立确山专区，辖汝南、信阳、上蔡，新蔡、正阳，西平、遂平、确山八县和信阳、驻马店二市。8月，专署迁驻信阳市，由信阳专区管辖。
1965年6月15日，国务院批准河南省增设驻马店地区，2000年6月8日经国务院批准撤地设市。
全市辖9县1区，172个乡镇、办事处（乡111个，镇48个，街道办事处13个），2662个行政村，141个居民委员会。
