余大化在安庆参加反帝、反封建的斗争，引起他的堂叔余谊密强烈不满。余谊密在任安徽省长公署政务厅长时，曾把他叫到家中严加斥责。他理直气壮地援引“国家兴亡，匹夫有责”的古训，慷慨陈辞，说明中华民族子孙，不能坐视国家危亡，表明“头可断，血可流，壮志不可丢”的决心。余谊密大怒，以家族长辈身份加以压制。余大化则以余谊密“身居高位，不思为国为民，反而助纣为虐，百年之后，何以对余氏祖先”相诘责。说罢，扬长而去。
     1921年4月，余大化与王步文、周新民等一批优秀青年在安庆加入了社会主义青年团。入团后，他与王步文等又在安庆第一师范学生宿舍创办秘密图书室，多方搜购马克思主义著作和进步书刊，分送给青年团员及进步青年阅读。同年，余大化参与领导了著名的“六•二”学潮和反对省三届议会会员选举以及驱逐省长李兆珍等一系列斗争。1923年，又参加了反对曹锟贿选总统的斗争，曹下令通缉王步文、余大化等36人。余大化与一些被通缉的青年，被迫离开安庆前往上海，在上海组织“安徽流亡学生反对贿选团”，创办《黎明周刊》，继续进行反对贿选总统和驱逐马联甲、吕调元的斗争。1924年10月，冯玉祥回师北京，推倒曹锟，段其瑞任临时执政，将马联甲、吕调元撤职，改任王揖唐为安徽省长，取消了曹锟的通缉令。于是，余大化等陆续返回安庆。在蔡小舟等人的积极活动下，安徽军阀当局同意因反对贿选被通缉而失学的学生以官费出国深造。1925年，余大化同王步文等一道东渡日本。
      到日本后，他参加了国民党设在东京的组织，一面读书，一面与王步文等同志一起积极开展政治斗争。他坚决拥护孙中山“联俄、联共、扶助农工”三大政策，揭露西巢鸭派(他们住在东京西巢鸭，故称西巢鸭派)反对三大政策的两面手法，在留日学生中起了良好的作用。1926年，国内革命斗争蓬勃发展，余大化急于投身革命洪流，遂由日本回国。
      这年秋，余大化被派回故乡潜山，组建国民党潜山县临时执行委员会，担任常务委员。他广泛宣传反帝、反封建的革命思想，组织运输队和救护队，为北伐军运送弹药，传递情报，救护伤员。在余大化领导下，潜山人民首先把斗争的矛头指向充当帝国主义侵华工具的潜山天主教堂，驱逐了披着宗教外衣、宣扬奴化思想的“神甫”。接着，又将妄图组织反动商团，打击革命力量的劣绅许小斋游街示众。