在20世纪，随着平汉铁路（1906年通车）和陇海铁路（1910年开封到洛阳段通车，1918年修到徐州，1925年修到海州，1927年到灵宝，1935年修到西安，1937年到宝鸡，1945年到天水，1953年到兰州）的陆续修通，河南又成为重要的交通枢纽。

北洋军阀时期，洛阳曾是吴佩孚的基地。1926年，冯玉祥参加北伐战争，进驻河南。1930年，蒋介石和阎锡山、冯玉祥、李宗仁之间展开大规模内战──中原大战，河南是主要战场。蒋介石的中央军大获全胜。1932年，上海一二八事变后，南京国民政府一度迁都洛阳。1928年－1932年期间，共产党的张国焘、徐向前等人在大别山区开辟武装割据的鄂豫皖革命根据地，一度威胁武汉。新集（今新县）是鄂豫皖根据地的首府，红军的第一架飞机“列宁号”在此诞生。

1938年6月，日军攻占开封后，国民政府挖开郑州花园口黄河大堤以阻止日军进攻郑州、武汉，但也造成河南、安徽、江苏三省40余县成为黄泛区，480万人倾家荡产。

1954年，河南省会从开封迁往郑州。1950年代初还短期存在过平原省，包括河南北部和山东西部，省会新乡，1952年撤销。

1958年4月20日，在遂平县成立中国第一个人民公社─嵖岈山卫星人民公社，掀开了大跃进的序幕。在随后的三年大饥荒中，河南也是损失最惨重的省份，估计有几百万人死亡。[