远在5万年前，芦溪生存着许多古代动物，生长着许多古代植物。
距今5000年以前，新石器时代，先人已经在芦溪大地上生产劳动，繁衍生息。
春秋时期，芦溪属吴。战国时期，芦溪属楚。秦始皇统一中国，实行郡县制，芦溪属长沙郡。西汉时期，分天下为12州，芦溪属扬州豫章郡宜春县。三国时期，芦溪属吴国，东吴宝鼎二年（267），吴国国君乌程侯孙皓，将宜春西部的广袤之地划出，设立萍乡县，置县治于芦溪古岗（现芦溪镇古城村）。芦溪成为萍乡地区的经济、政治、文化、军事之中心，经历三国、两晋、南北朝、隋、唐等朝代，唐武德二年（619），县城迁到现萍乡市城区凤凰池。芦溪作为萍乡历史上的早期县城，经8个朝代353年。县城搬迁之后，在唐、宋、元、明、清、中华民国时期，芦溪仍然不失萍乡县的重要经济文化地区的地位。
1949年，新中国成立后，芦溪属萍乡县。1960年，萍乡撤县设市，芦溪属萍乡市。1970年萍乡市为省直辖。翌年，芦溪设市辖区，为萍乡市芦溪区。1997年，经国务院批准，芦溪撤区设县，为江西省芦溪县，隶属萍乡市管辖。
县人民政府驻地芦溪镇是一个具有1700多年的历史古镇，也是萍乡市最古老的县城，有“萍乡古城”之称。