1944年9月4日夜,平谷县城的日军出发援救被民兵围困的胡庄据点。八路军十三团团长舒行抓住战机,率部奇袭平谷县城,意在调动蓟县、三河日伪军增援平谷,进入北山,十三团主力再挥师南进,恢复通唐公路南面的平原地区。
舒行作了战斗部署:由特务连和一连分别担任北面和西面主攻,民兵随后跟进,准备进城后组织群众清扫战场,抢运战利品;二连和五连在南门外火神庙一带防敌突围南窜,并阻击可能来援之敌。指挥部设在北门外金家坟。
5日零点,各连出发,到达指定地点。凌晨一点发起攻击,战士们利用民房隐蔽接近城墙,架好云梯,登上城头。
二时许,特务连和一连分别从北、西打进城内,扩大战果。约三时许,将2个伪警备中队和保安队、警察局缴械,捣毁伪县政府、日本宪兵队队部和反动组织新民会;砸开监狱,救出百余名同胞。
这次奇袭平谷县城仅用了3个多小时,缴获长短枪121支、子弹1600余发、手榴弹4000余枚、电话机12部。拂晓前,按事先计划,十三团隐蔽在夏各庄,民兵和群众则赶着驮粮食和其他战利品的大车、牲口,排成长队向北面山区开拔。
午后日军驻通县、蓟县、三河机动部队1000多人,先在平谷集结,然后沿着民兵和群众走过的路线向北追去。二区队和民兵在北部山区牵制敌人,当晚十三团则从夏各庄出发,向南部蓟县、三河开拔,寻机作战,连克侯家营等15个据点。