1.2万年以前，古人类“兴义人”在兴义生息繁衍，战国时兴义为夜郎辖地，秦代开始置吏，蜀汉设汉兴县，东晋南北朝设南兴县，唐设附唐县，治所在今黄草街道办。宋属宋杞国，元属云南行省普安路总管府，明代改隶四川布政司，永乐十一年始隶贵州，政区沿革几经变更，在嘉庆三年，即公元1798年置兴义县。嘉庆二年（1797年），改南笼府为兴义府，直至宣统三年（1911年）末变更，府址设在今安龙县城，辖贞丰州（今贞丰县及望谟县一部分）、册亨州（今册亨县）、普安县（今普安）、新城县（今兴仁）、安南县（今晴隆）、兴义县（今兴义）和捧鲊巡检（今兴义捧鲊镇）。1913年置捧乍分县，1935年捧乍分县入兴义县。

1952年兴仁专署迁驻兴义县，改称兴义专区。辖兴仁、晴隆（驻莲城镇）、关岭（驻关索岭）、贞丰、望谟（驻复兴镇）、册亨（驻者楼镇）、安龙、兴义（驻黄草坝）、盘县（驻普安）、普安（驻盘水镇）等10县。

1956年原属安顺专区的郎岱县划归兴义专区。后撤销兴义专区，将关岭、晴隆、兴仁、兴义、普安、盘县、郎岱7县划归安顺专区；望谟、册亨、安龙、贞丰4县划归黔南布依族苗族自治州。

1965年复设兴义专区，专署驻兴义县。将安顺专区所属兴义县、兴仁县、盘县、普安（驻盘水镇）、晴隆（驻莲城镇）5县和黔南布依族苗族自治州的望谟、册亨、安龙、贞丰4县划入兴义专区。1965年11月设盘县特区。兴义专区辖9县、1特区。

1970年兴义专区改称兴义地区。1971年1月1日，将盘县归六盘水市。

1981年9月21日，撤销兴义地区，于1982年5月1日成立黔西南布依族苗族自治州，是全国30个自治州中最年轻的自治州。以原兴义地区的行政区域为黔西南布依族苗族自治州的行政区域。自治州人民政府驻兴义县。

1987年11月6日，经国务院批准，兴义撤县建市。1988年3月1日正式建市，政府把以后每年的11月6日定为兴义市的市庆日。

2008年11月6日是兴义建市20年，在兴义广场举行了庆市活动，兴义各乡镇有展示自己乡镇的彩车。