任应岐，字瑞周，1892年生于河南鲁山县仓头乡刘河村一个农民家庭。6岁入私塾，16岁到县城高等小学堂念书，18岁考入淮阳师范学校。

任应岐的青年时代，社会动乱，兵燹匪患，加之连年荒灾，民不聊生。鲁山县李鸣盛带领穷苦百姓揭杆起事。因仰慕任应岐才华出众，聘其为参谋。1913年，李鸣盛、任应歧被镇嵩军刘镇华部收编，任应歧先任班长，后任排长、连长。1918年2月，靖国军胡景翼部围攻西安，陕西督军陈树藩向刘镇华求援，任应歧随军前往，1920年7月返豫，1922年9月，被公推为河南自治军总司令。1926年9月，任应岐接受南方国民政府改编。任应歧部是从樊钟秀建国豫军中分化出去的，1926年吴（佩孚）岳（维峻）战争后，被吴收编，但任与樊一直保持密切联系，同吴若即若离。当北代军向武胜关追击时，由于早年好友是国民党创始人之一刘觉民，所以在刘觉民的民主革命思想影响与策动下，任即在郑州宣布独立，反对吴佩孚，并派代表向樊请愿投诚，共同讨吴，得到樊的允许，同时派代表到武汉，与北伐军接洽。9月中旬，蒋介石任命任应歧为国民革命军第十二军军长，刘觉民任参谋长。

1927年1月被任命为十二军军长，1928年3月，任应岐被特任为南京国民政府军事委员会委员，刘觉民任中央监察委员兼晋、冀、鲁、豫监察使。

1928年8月，日军增兵青岛，企图侵吞山东。任应岐代表十二军全体将士，通电全国，促蒋停止内战，北上抗日。任非蒋之嫡系，他的力量的扩大，加深了蒋的戒心。1930年3月下旬，任应岐部奉调赴安徽寿州，途经灵壁、泗县时，突遭蒋军伏击，几乎全军覆没，任只身逃出。同年4月，冯玉祥、阎锡山、樊钟秀、刘觉民等联合反蒋，任应歧联络旧部，投身反蒋，任第二军军长兼第八方面军参谋长。9月，张学良通电拥蒋，出兵入关，阎、冯失败。任应歧部退至新郑，被蒋军包围缴械，任应歧化装逃至北平。

在北平，任应岐与中共平津地区地下党领导人刘仁相识，受刘启导，拥护共产党抗日救国的主张，并加入中国共产党，为当时斗争环境需要，被要求暂时隐蔽身份，（所以历史记载一直未知其是中共党员的身份，这是历史的谬误！）。是年冬，任迁住天津法租界。此间，他资助河南“同乡会”主办震中中学，亲任董事长。同时， 与冯玉祥下属，爱国将领、同样也一起加入共产党（任应岐介绍）的吉鸿昌，因他们志同道合，遂成为挚友加合作者。