据王宴春先生考证，开封鼓楼建于明代洪武十二年（1379年），由河南都司都指挥。
使徐司马所筑，后倾损失修，至明景泰元年（1450年）重修，因时遇久雨成灾未竣。明天顺五年（1461年）再修，又因黄河决口停工。当时谣传修鼓楼有水灾之患，所以鼓楼日久不修破废，时人称“破鼓楼”。
明嘉靖六年（1527年），镇守太监吕宪力排众议，毅然重修，结果平安无事。明崇祯十五年（1642年）李自成率农民起义军第三次攻打开封，明统治者以水代兵解围，洪水将存在了一个多世纪的鼓楼淹废。
清康熙元年（1662年），鼓楼又进行复建。康熙二十八年（1689年），河南巡抚阎兴邦又组织重修，时至6个月竣工，但后又遭损坏。
迨清光绪七年（1881年），河南巡抚李鹤年对鼓楼进行大修。修后的
冯玉祥时期开封鼓楼——中山图书馆
冯玉祥时期开封鼓楼——中山图书馆
鼓楼台基高5米，台基中间砖砌瓮门，瓮门纵贯大街，门下东西通车行人。台基北，有关帝庙一座，穿庙出向上有门，门内作砖铺阶，人可循阶而上。台基上，建有两层楼，东西面阔各大间，上层四周布游廊栏杆。东西檐下各悬巨匾一块，西檐下额题“声震天中”，东檐下额题“无远弗届”。楼上南间架有牛皮巨鼓一面，直径约1米，声音深沉浑厚，能传数十里。
辛亥革命后，鼓楼北隅建天中饭庄一座，天中饭庄与鼓楼间架有天桥，可相互通行取乐。1928年，冯玉祥二次主豫时，将第一层楼改为“中山图书馆”，上层改为“消防队”和“新闻联合会”，四外走廊作为火警瞭望台。楼顶中央增建一尖塔式四方楼，四面装有巨型自动钟，
20世纪70年代初的鼓楼台基鸟瞰
20世纪70年代初的鼓楼台基鸟瞰
为全市报时之用。台基上西南悬挂一口火灾报警大铁钟，据说此钟是从曹门外“十方院”移来的。1930年前后，一楼“中山图书馆”又改为“通俗图书馆”。1948年开封第一次解放时，台基上两层楼为炮火所焚，仅剩下一座台基。
新中国成立后，开封多次对台基加以整修，作为节日检阅观礼台和全市广播宣传中心。1976年11月，将鼓楼台基拆除辟为广场。从此，鼓楼在开封消失了。