西汉惠帝四年(公元前191年)置灵洲县,北魏置薄骨律镇,北周设灵州,隋设灵武郡,均为宁夏平原最高政区机构。
唐代,灵武为灵州都督府和朔方节度使驻地,统七军府,辖三受降城,军事上辐射的范围远达西北和内蒙古地区。“安史之乱”爆发后,太子李亨在灵武即位是为肃宗,升灵州都督府为大都督府。肃宗在灵州调兵遣将,号令天下,平定叛乱,重兴中唐,更使灵州声威大振,名闻遐迩。
宋咸平五年(公元1002年)党项族首领李继迁攻下灵州,改灵州为西平府,为西夏王朝的建立奠定了基础。西夏建国后,西平府与兴庆府(西夏都城,今银川市)并称东西二京。
元明清三代,灵州管辖的地域逐步缩小,但地位依然重要。元置州牧,属宁夏府路。明设千户所,直隶于宁夏卫。清废卫所,灵州为宁夏府直隶州。
民国二年(公元1913年)改灵州为灵武县,属宁夏省,将灵武县东南之萌城,隰宁、惠安、盐积4堡划出并入盐池县,灵武县境进一步缩小。
中华人民共和国成立之初,灵武县属宁夏省,政区分为1市(吴忠市)6区,1950年吴忠市析出。
1954年,宁夏省撤销并入甘肃省,设河东回族自治区,灵武县属之。
1955年,又将郭家桥乡金银滩划属吴忠市。
1958年成立宁夏回族自治区,灵武县属自治区管辖。
1972年,成立银南地区,灵武县为所辖7县市之一。
1996年,灵武撤县设市,交由吴忠市代管。2002年,灵武自吴忠市析出,由银川市代管。