1938年，侵华日军为实现控制长江航运线、策应对武汉的作战，调集驻芜湖的兵力沿青弋江南犯。驻守当地的国民党军节节败退，红杨树、马家园等战略要地相继落入敌手。

6月，为维护团结抗战的局面，新四军第三支队第五团奉命接替国民党军一四四师在红杨树、青弋江、峨桥一带的防务。抵达防区西河镇后，团长孙仲德立刻布置五团二营陈仁洪营长选出十几名作战经验丰富的侦察兵，利用夜暗摸进红杨树，对日军进行袭击骚扰。立足未稳的日军摸不清虚实，害怕被围歼，仓皇撤离，五团收复红杨树。

为预防日军再次侵袭，第五团召开连以上干部会议，分析日军作战特点。会后，分头走访友军和当地群众，获得许多既能制服日军，又能保护群众的策略。五团统一对策，在红杨树周围几条主要的堤圩两侧，挖好隐蔽处，布置火力点，准备迎接日军的进攻。不久，驻湾沚的日军进入五团的伏击圈，遭五团猛烈反击后败退。为应对日军反扑，五团连夜加固工事，并将大树投入青弋江封堵河道，切断日军水路进攻通道。几天后，日军改变战术，利用堤圩隐蔽接近，尝试小分队迂回前进，企图从侧后夹击五团，均被早有防备的五团将士击溃。

这场战斗最终以日军伤亡200多人的代价惨败告终，红杨树阵地牢牢控制在新四军手中。作为新四军进入皖南后的首次大规模战斗，红杨树之战打破了“日军不可战胜”的神话，百姓纷纷奔走相告，主动为部队送粮送药、传递情报。11月，五团奉命离开红杨树，开赴繁昌。