河南省图书馆建于1909年（清宣统元年），是河南省最早的一所公共图书馆，也是中国最早建立的公共图书馆之一。河南省图书馆原馆址在开封市龙亭湖畔的许公祠。1957年由开封市迁至郑州市，在郑州市优胜北路兴建新馆，1958年落成开放。1982年4月河南省人民政府以省重点工程立项，拨款1680万元批准兴建新馆。1988年底新馆主体工程竣工，1989年9月28日正式接待读者。

河南省图书馆是国家兴办的综合性公共图书馆，是河南省科学、教育、文化事业的重要组成部分，也是各类文献最集中的信息中心。截止2000年底，省馆藏书已达251万余册，包括中外文图书160万余册，中外文报刊20余万册，视听文献1万多件，缩微制品1600多件，古籍70万余册（含善本43284册），其中元明清历代流传下来的古籍珍本，如明刊《李卓吾先生批评西游记》、明嘉靖刊《广舆图》、清康熙刊《遵化志略》和《嵩阳书院志》等系镇馆之宝。