据考古发现，最迟于旧石器晚期，高平已有人类聚居。夏商时代为冀州之域，春秋时为属晋，始称泫氏。战国时改为长平，先属韩，后属赵，秦赵长平之战后为秦所据，置高都县，属上党郡。西汉、东汉、三国、魏、两晋为泫氏县，属上党郡。

　　北魏初改元氏县，属建兴郡，北魏永安二年（公元529年），改置建州，设长平郡，领泫氏、高平2县，高平名始于此。齐天保七年（公元556年）改高平县为平高县，北齐末又改平高县为高平县，并将泫氏县并入高平县，此后只称高平不再称泫氏。北周并长平、高都郡为高平郡，高平县属高平郡。

　　民国初年，高平属山西省冀宁道，民国23年，高平县属山西省直辖，民国26年后，高平属山西省第五行政区。民国30年，高平抗日民主政府成立，归太岳区管辖。民国32年高平东南部划归为陵高县，其余部分仍为高平县。

　　1945年6月，高平解放，同年10月撤销陵高县，原划归陵高县的区域仍划归高平县，属太岳四专区。1948年又改属太岳三专区。

　　中华人民共和国成立后，撤销太岳区，高平县为山西省长治专区所辖。1958年，晋城、高平、陵川三县合并为晋城县，原高平县成为高平人民公社。1961年恢复为高平县，先后为晋东南专区、晋东南地区所辖。1985年，实行市管县体制，撤销晋东南地区成立晋城市，高平县归晋城市所辖。1993年5月12日，经国务院批准，撤县设市，高平市成为省辖县级市，由晋城市代管。