秦统一后，县境分属东海郡之缯、兰陵、襄贲3县。
西汉时属徐州刺史部东海郡之缯县、兰陵、襄贲3县。东汉时属琅琊国之缯县及东海郡之兰陵、襄贲县。
三国时东海郡之兰陵、襄贲、缯3县。南朝刘宋时，县境分属琅琊郡之即丘县、费县和东海郡之襄贲县。北魏时，分属兰陵郡之兰陵县、琅琊郡之即丘县、郯郡之郯县。
隋时，分属临沂县、兰陵县。
唐初，分属临沂、兰陵、缯县。唐贞观元年（627年），县境分属河南道沂州之临沂县、丞县。
宋代属京东东路临沂县、丞县。金时属山东东路临沂县、山东西路邳州兰陵县。
元代属中书省山东东西道宣慰司益都路峄州和沂州临沂县。
明清两代分属沂州府之兰山县、费县、郯城县。
民国二年（1913年）府制取消，复设临沂县，县境分属临沂县六、七、八区，郯城县四、五区，费县二、七区。
民国二十六年（1937年）协商成立临郯费峄4县边区联庄会办事处。
民国二十八年（1939年）2月临郯费峄四县边区联庄会办事处在车辋召开会议进行改组，改称临郯费峄四县边区联合办事处。
民国二十九年（1940年）3月临沂县抗日民主政府在庄坞成立。
民国三十年（1941年）3月28日，临郯费峄四县边联抗日人民代表大会在万村召开，成立临郯费峄四县边区政府，简称“边联县”。
民国三十二年（1943年）春，中共鲁南区委决定建立兰陵办事处，民国三十三年（1944年）3月改称兰陵县。
民国三十三年（1944年）春，边联县改称赵镈县。
民国三十四年（1945年）10月兰陵县撤销，其部分辖区归属赵镈县。
民国三十四年（1945年）底，苍山县境只赵镈县1个建制。
民国三十六年（1947年）春，将赵镈县东半部析出置县，为纪念1933年中共领导的“苍山暴动”，取名苍山县。
民国三十七年（1948年）重建兰陵县。
1950年5月11日，撤销赵镈县，其辖区大部分并入苍山县。
1953年，撤销兰陵县，其辖区部分并入苍山县。
1994年，临沂地区改置为地级临沂市，苍山县隶属临沂市。
2014年1月21日，重新恢复为兰陵县。
