辉县市远古时期为共工氏部族居地。夏属冀州之域，殷商系畿内地，周称凡国、共国。周厉王十六年，共国君共伯和受诸侯拥戴，代行王政，号共和，是为元年（前841年，为中国历史上有确切纪年的开始）。春秋属卫，战国归魏，秦属三川郡。西汉，县境东部置共县，西部属山阳县。东汉、晋、北魏、东魏因之。隋开皇六年（596年），省山阳县，改置共城县。唐武德元年（618年），置共州，辖共城、凡城二县；武德四年废州，并凡城县入共城县。宋因之。金大定二十九年（1189年），避显宗允恭（共之谐音）之讳，改称为河平县；明昌三年（1192年）又改称苏门县；贞祐三年（1215年）升苏门县为州，因百泉威惠王祠有清辉殿（取谢灵运“山水含清辉”诗名命名），故以“辉”为名，称“辉州”，领苏门、山阳二县。元代因之，后废苏门县，改山阳为镇，仍称辉州。明洪武元年（1368年）废州立县，改辉州为辉县，属河南省布政使司卫辉府。清代因之，民国16年（1927年），天门会举义，在西平罗建合平县，不久即废。 　　1938年2月日军入侵辉县，1943年至1944年，中共太行区委根据抗战形势，将原辉县相继划为辉县（后改辉北县）、辉嘉、新乡（后改辉县）三县。1945年8月抗战胜利，1946年6月三县合并为辉县。 　　

　建国后，辉县属平原省新乡专区，1952年11月平原省撤销，改属河南省新乡专区，1986年新乡专区撤销，改属新乡市。1988年10月撤县设市，但仅在辉县后加“市”字，称作“辉县市”，并使用至今，成为中国目前仅有的名称中带“县”字的城市。 远古时这里是共工族的居住地，殷商时为畿内地（首都直辖区），武王克殷时曾经在城北的百泉誓师，次日与商军大战于牧野（今新乡），流血飘杵。西周时为共国，相传周代共和元年，执政的共公的封地就是这里。《诗经·卫风》篇里“毖波泉水，亦流于淇”，即是指城西北的百泉湖。更有一种说法，认为诗经中所提的“泉”，均是指百泉。春秋左传/古文观止首篇所提及的郑庄公的弟弟段就封在此地。后为魏国。西北山区尚有战国长城遗址。西汉置共县，隋置共城县。北宋末年，岳飞曾在此地死战，后退入太行山，即“八字军”。金代时，先改为河平县，金贞佑四年（1216）改辉州，因山下百泉湖畔建有清辉殿得名。直到明初降为辉县。清代属卫辉府管辖（治所在汲县）。1949年属平原省，后随平原省并入河南省。1988年撤县设市，但仅在辉县后加“市”字，称作“辉县市”，并使用至今，成为中国目前唯一名称中带“县”字的城市。