菏泽历史悠久，是中华民族的发祥地之一，并且历史人文景观灿烂，尧、舜、禹、刘邦、曹操都长期在菏泽一带活动。孙膑、庄周、汜胜之、刘晏、黄巢、宋江都出生在这里，有尧王墓、百狮坊、仿山遗址等100多处名胜古迹。据史书记载，早在四千年以前的新石器时代，人们的祖先就在这里繁衍生息，渔猎耕种，创造着古代人类文明。至今，菏泽大地仍保留着许多原始社会的历史遗迹，比较著名的有牡丹区安邱堌堆、曹县安陵堌堆、郓城县肖堌堆、东明县窦堌堆、定陶县官堌堆、鄄城县历山堌堆等等。　　夏代，分属于兖、徐、豫三州。商代，境内中部有三鬷国，定陶与曹县之间有莘国，鄄城与郓城之间有顾国、黎国。西周，今境中部属曹国，东部属鲁国和茅国，西北部属卫国，南部属宋国，东南部有郜国，东北部有须句国，西南有贯国。春秋、战国时期，境内分属宋、鲁、卫国。秦，境内中部、北部属东郡，南部和东部属砀郡。汉，境内分属东郡、山阳郡、济阴郡及豫州之梁国。三国时期，境内属曹魏的兖州。西晋时，境域分属兖州济阴郡、濮阳国、高平国、东平国、陈留国和豫州梁国。东晋十六国时期，境域先为后赵、前燕、前秦、后燕等国据有，后属东晋之济阴、濮阳、高平、北济阴郡。　　南北朝初期，境内东部属刘宋，西部属北魏。公元527年(北魏孝明帝孝昌三年)，置西兖州，济阴郡改属西兖州，州、郡同治定陶。不久，州郡同迁左城(今定陶县西力本屯一带)。公元534年(天平元年)，北魏分为东、西魏，境内属东魏西兖州的济阴郡、濮阳郡。公元578年(北周武帝宣政元年)，北周灭北齐，改西兖州为曹州，仍治左城，是为曹州得名之始。隋，境内中部属曹州，北部属濮州，东北部属郓州，东南部属戴州，南部属宋州。唐代，境内属河南道。五代十国时期，境域分属曹州、濮州、郓州、宋州、单州。北宋，境内初属京东路。元代属中书省。明代，境内大部属山东承宣布政使司所辖的兖州府，西部和北部各有一部分，个别属京师大名府和山东布政使司所辖的东昌府。1368年(明洪武元年)，因水患将曹州迁徙安陵镇(今牡丹区大黄集镇安陵集)，次年又迁至盘石镇(今曹县城)。1371年(洪武四年)降曹州为曹县。1445年(明正统十年)，复置曹州，领两县。1724年(清雍正二年)曹州升为直隶州。1735年(清雍正十三年)，曹州升为府，辖1州10县(濮州、菏泽县、曹县、定陶县、成武县、单县、巨野县、郓城县、范县、观城县、朝城县)。此时辖区面积略大于今菏泽市。