涟水历史悠久，从青莲岗和三里墩两处出土的文物看，在新石器时期，境内已有人类居住，距今已有五六千年历史。汉武帝元狩六年（前117年）建淮浦县，是涟水建置的开始，距今已有2120年。 淮浦，就是淮河入海的地方，在交通、经济、军事上都具有重要的地位。2000多年来，这里曾设过郡、州、军等较高的行政机构，历来为兵家必争之地。隋开皇五年（585年）改叫涟水县，因县境北有一条河叫涟水（涟河）而得名。涟水名胜古迹众多，境内有妙通塔、月塔等佛教古迹，涟水城内有涟漪湖、东湖、茵湖三湖相连，五岛公园八景远近闻名，历史上，美丽的涟水城，曾引得无数墨客骚人流连忘返，诗兴大发，现存的历代咏涟诗词多达200多首，宋代大诗人苏轼《蝶恋花．过涟水军赠赵晦之》词曰：“自古涟漪佳绝地，绕廓荷花，欲把吴兴比”。 春秋时，涟水属吴。战国时，先后属越、韩、楚。秦时，属东海郡。楚汉之际，属西楚霸王项羽，汉初，属楚王。汉高祖六年（公元前201年），降韩信为淮阴侯，分楚地为两国，涟水又属楚国。汉景帝时，被废除。汉武帝元狩六年（公元前117年），置淮浦县，属临淮郡。这是涟水建制之开始。王莽时，改淮浦为淮敬。东汉光武帝时，淮浦属东海郡。章帝建初四年（公元79年），淮浦属下邳国。三国时，淮浦属魏，划归广陵郡，西晋因之。东晋十六国时，淮浦先后属后赵、前燕、前秦、东晋。南北朝时，淮浦先后属刘宋。南齐建元二年（公元480年），称北东海郡，治所连口（即今涟城），并于北境置襄贲县。梁时，仍叫东海郡，北境有襄贲。东魏和北齐，襄贲县先后属西海郡，海安郡。隋开皇三年（公元583年）罢诸郡为州，襄贲县属海州。五年（公元585）改襄贲为涟水县。因县北有涟水而得名，涟水之名始见。

唐初，武德四年9公元621年）置涟州，在县北三十里分置金城县。贞观元年（627年），涟水县属泗州。乾宁二年（公元985年，涟水属杨吴，后属南唐，周显得四年（公元957年），归于周。

宋初，涟水县属泗州。太平兴国三年十二月（公元987年）置涟水军，属淮南东路。熙宁五年（公元1072年）五年改涟水县，隶楚州。元佑二年（公元1087年），复为军。

南宋建炎二年（公元1128年），涟水被金占领。绍兴元年，五年（公元1135年）废涟水军为县。十一年（公元1141年）割于金。绍定元年（公元1228年）改为涟水县，属宝应州。开庆元年（公元1259年）涟水被蒙古占领。景定元年（公元1260年）收复，三年（公元1262年）改为安东州，涟水县属安东州。

元十二年（公元1275年），安东州归附，以县境马骡山军寨作山阳县。先后划归山东路、淮安路。至正二十六年（公元1366年）归附朱元璋。

明洪武二年（公元1369年）正月降安东州为安东县，属淮安府。