这位张主任还真不负段团长之望，他带着几名宣传员走县串乡到处游说，开口民族、闭口国家，讲到激动时还一把鼻涕一把眼泪的，感动的周遍乡邻纷纷响应，还吸引了一支掉队的正规军来参加队伍。

这支正规军有7名士兵，段海洲全部委任为小队长，并让他们协助参谋长训练部队。逐渐的，段海洲的义勇团由6个人发展到了60余人。

当日军奉命移防后，段海洲带着已经发展到300来人的义勇军一举突入武强县，击溃了当地伪军，还缴获了几门迫击炮和轻机枪。

武强县的光复，使段海洲的名字响遍了冀中，踊跃报名的参军者陡然间增加一倍，其中不乏带枪带马来参加的，甚至连冀县的三百多民团也来参加了义勇军。

段海洲还利用其中一名曾经在兵工厂做技术工作的参军者搞起了兵工厂。半个月后，这个小规模的兵工厂已经开始制造地雷、迫击炮弹和手榴弹了。

到了1938年初，段海州的部队一跃成为河北地区几支游击部队中实力最大的团体，拥兵3400余人。

这个时候的段海洲，已经不安于武强一县之地。他以原冀县民团的300余人为基础进入冀县开展游击，另以一部在献县至交河的公路上袭击日军补给车队，使日军驻献县的部队得不到补给，被迫撤军。献县于是进入了段海洲的势力范围，他的部队也一下子暴增到6000余人。

随着段海洲势力的坐大，逐渐受到了周围游击部队的注意。

先是受中央正式委派的河北民军总指挥张荫梧派人联系收编事宜，被段海洲断然拒绝。

但是另一支实力雄厚的游击部队就不那么买段海洲的帐了。

这支部队的司令名叫赵云祥，原是29军教导队的副队长。

29军放弃平津后，赵云祥带着教导队的部队官兵在河北拉起的抗日大旗。

由于是正规军发展出来的部队，段海洲的义勇军不管是在战斗力还是在战术上都打不过赵云祥。而赵云祥在收编段海洲的计划失败后，便对段部发起了进攻，段海洲连战连败，就连刚取得的献县也丢了。

正当段海洲陷入战败的苦恼之际，邻县的南宫开来了一支八路军。

段海洲在北平读书时，就对我党深有着好感。

这个时候又受到了部队中我党成员的劝说，便决定率领所部参加八路军。

这一举动受到了当时八路军129师徐副师长的热烈欢迎。

同年5月，段海洲的“抗日义勇团”在南宫县正式改编为第129师青年抗日游击纵队，也就是前文中出现的青年纵队。

由段海洲当司令员，八路军派遣的当时的386旅从参谋长李居奎当政委。