1937年七七事变后，日军沿平汉线长驱南下，国民党军队节节败退，祖国的大片国土沦入敌手，豫北地区很快成为抗日战争的最前线。
    10月，中共中央派刘大风、王从吾等同志到直南、豫北地区开展工作，迅速恢复和建立了各县党的组织，并同国民党濮阳专员丁树本建立了统战关系。在直南、豫北各县很快建立了抗日救国会、抗敌后援会、抗日自卫队等抗日救亡团体。10月下旬，在发动群众的基础上，共产党直接领导的抗日武装四支队成立了，全队二百来人，唐明哲任队长，刘大风任副队长。这是共产党在豫北组建的第一支抗日武装。
    1937年底至翌年初，南乐、清丰、濮阳、滑县等地相继沦陷。日军所到之处，烧杀淫掠，无恶不作，更加激起豫北人民的抗日怒火。四支队乘敌人立足未稳，向日伪军发动了一系列进攻，先后取得了收复南乐、清丰县城，袭击龙王庙，伏击岳村铺，活捉日军特务机关长和维持会长等胜利，沉重地打击了日伪军的嚣张气焰。这时，中共直南特委决定党领导的濮阳专区民军第八大队并入四支队。四支队成为冀鲁豫边区一支主要抗日武装。
    1938年3月11日，日军500余人向国民党濮阳专员丁树本司令部驻地常庄进攻。丁树本为保存实力，命令四支队守正面阵地，他的两个团和特务营分守两翼。战斗打响后，四支队指战员顽强沉着，多次打退日军进攻，正面阵地固若金汤。而丁树本的部队却顶不住敌人的火力，不断向参谋长陈明绍告急，陈气愤地说：“四支队能顶住，你们为什么顶不住？”群众看到四支队战士英勇善战，很受感动，纷纷拿出花生、大枣到前线慰劳。群众的热情鼓励，更增加了战士们胜利的信心。战斗持续了一天一夜，终于击退了敌人的进攻。
    4月上旬，四支队再次收复清丰县城，逮捕汉奸20余名。袭击南乐县城，打散了伪县政府和维持会。四支队连战连捷，使冀鲁豫边区群众受到了极大振奋和鼓舞，纷纷要求参加四支队。中共鲁西特委领导的抗日游击队和以刘杰三为首的绿林武装先后编入四支队，部队迅速扩大到近千人。
    6月，四支队奉命与一二九师三八六旅七七一团合编为一二九师东进纵队第七支队。不久，又整编成东进纵队第三团。从此，四支队指战员在更广阔的战场上驰骋杀敌。