沂水县的历史源头最早可追溯到夏朝。

     沂水县是一块古老的土地，它历史悠久，文化灿烂。“沂”载入史册，最早见于《禹贡》和《周礼》。夏朝，其北、东境入青州，南境属徐州。商代沂地属人方。西周时，地属鲁国。因诸侯纷争，沂地隶属屡变，名号稍异。春秋为郓地，后入齐。战国称盖。秦废封建，置郡县，沂水地属琅琊郡。西汉时东部为琅琊郡东莞县，西部为泰山郡盖邑，南为城阳国阳都县。东汉属琅琊国，三国属魏，属东莞郡，两晋因之。至元康七年分东莞郡，置东安郡。北属东莞郡，南属东安郡。南燕慕容德据青州，又于此地置县，名谓之团城。刘裕收复入宋，为郡，后又改为南青州。北周又改属莒州。隋开皇四年郡废，改新泰为东安。十六年改东安为沂水县，因临沂河而得名，属琅琊郡，另于古盖置东安县，属莒州。唐宋改属琅琊郡，又属莒州。元随州属益都路。明属青州。清雍正八年由青州府改属莒州直隶州，十二年改属沂州府，此后一百五十年隶属未变。民国二年改属山东济宁道，十四年又改属琅琊道。十七年废道，直属山东省。民国二十五年设督察专员公署，沂水县属山东省第三区督察专属公署。

     1939年沂水城被日寇占领，中共沂水县委联合各界组织抗日民主政府—沂水县行政委员会，以马牧池、院东头为中心化为南沂蒙，以诸葛为中心化为北沂蒙，并设立南北沂蒙联防办事处。1940年至44年间，原沂水县十大区和临沂北部，莒县北部先后化为七个县，即沂临边联县、沂南县、莒沂边联县、沂中县、沂北县、沂东县、沂源县。1944年8月，沂中县原沂水县中心县属鲁中南行政公署第二专署。1949年8月沂中县改为沂水县，属鲁中南行署沂蒙专属。1950年改属沂水专属，1953年9月沂水专署撤销，沂水县隶属临沂专署，后临沂专署改为临沂地区、临沂市沂水一直隶属至今。