蒙阴县历史久远，旧石器时代就有人类在此聚居，有世界闻名的盘足龙化石；有吕家庄、南芙蓉等大汶口文化遗址，现有省级文物重点保护单位4处，市级4处，县级46处。周代，此地称蒙邑、堂阜邑、艾邑，分属鲁国、齐国。西汉初建县，因在蒙山之阴而得名，隶属兖州泰山郡。王莽篡位后，曾改称蒙恩县。东汉初，地属盖、牟二城。三国魏复置蒙阴县，属徐州琅邪郡。西晋末因战乱废。南北朝时，北魏于蒙阴地置新泰县，属南青州东安郡。东魏时，东安郡之新泰县改称蒙阴县，仍属东安郡。北齐将蒙阴县并入东泰山郡之新泰县。自此经隋、唐五代直至南宋景定三年，共712年，都属新泰县。1262年（南宋景定三年），蒙阴地又由新泰县划入沂水县，称新泰镇（旧蒙阴县志叫新寨镇）。1313年（元皇庆二年），重建蒙阴县，属益都路莒州。另据《重建蒙阴县碑》载，重建蒙阴县为元延佑二年。1369年（明洪武二年）属青州府。1730年（清雍正八年），改属莒州。1734年（雍正十二年）属沂州府。

1913年（中华民国2年），废府设道，蒙阴县属济宁道。1925年改属琅邪道。1928年废道，直属省。1936年属山东省第三行政区。1941年9月，将原蒙阴县的大部分地区划为新蒙县、泰宁县、博莱县。蒙阴县属鲁中区二专区。1943年3月蒙阴县撤销，同年9月恢复，仍属二专区。1949年7月属沂蒙专区。1950年6月改属沂水专区。1953年8月属临沂地区。1994年12月临沂撤地设市，蒙阴县仍属临沂市至今。蒙阴街道办事处为县委、县政府所在地。