五纵首长考虑到淮海、苏北的重要战略地位，即令2旅副旅长常清同志率6团留在皖东北地区坚持斗争，明确要求他们守住皖东北根据地；保护好我党、政机关；建立保安司令部；发展地方武装，打击日、伪、顽匪；防卫铁路沿线的交通联系，护送来往干部等。
为了确保这一地区安全，苏皖边区党的负责人刘龙同志亲自来洪泽湖之北成子湖以西的界头集召开会议布置任务，并进一步明确6团归胡服同志指挥，把和胡服同志联系的电台密码本给了6团。
随后，这里建立了皖东北地委、专署和保安司令部，常清同志兼任保安司令员，胡成兼参谋长，统一指挥6团和各地方武装力量，保卫以江苏泗洪为中心的泗县、盱眙、凤阳、嘉山、五河、灵璧等皖苏边境5县16区。
五纵主力东进淮海后，皖东北苏皖边界周围之日、伪、顽军，乘机向我根据地渗透，妄图逐步“蚕食”我根据地。皖东北地委为了加强对这一地区的对敌斗争领导，令6团统一指挥这一地区武装力量，以保安司令部名义召开各地武装领导干部会议，统一布置兵力，反击敌军，保卫根据地。
会后，根据分工，活动于泗、五、灵、凤地区的沱河大队负责接送过路干部；
活动在淮河以南盱、凤、嘉地区的独立营，负责维护淮河交通运输；
活动在淮泗地区的湖东大队，负责淮海区域各地干部往来的联系和护卫；
活动在盱眙外双沟至管镇一带区武装和6团派出的侦察排，主要负责监视盱眙伪军行动。
6团在这里驻了大半年，组织指挥部队和地方武装力量，与日、伪、顽军打了几十仗。
1940年初冬，日寇一部“扫荡”青阳镇东北的五龙背、新行圩、朱湖和金锁地区。6团用1个营掩护党、政机关转移到洪泽湖东岸，集中2个营在五龙背、朱湖、新行圩阻敌。激战一天，毙伤日、伪军百余人。
1940年隆冬，6团与敌频繁交战。
6团于泗县至青阳镇之间的马公店反敌“蚕食”我根据地，歼敌50余名；
盘踞洪泽湖之股匪，袭击我军成子湖东北破草围子一带，切断我根据地东西交通线。6团以1营击敌，歼敌50余名，并乘胜奔袭成子湖北，歼熊围子顽匪百余人，俘敌团长熊英以下70余人，恢复了我根据地东西线；
淮阴、泗阳边境反动会道门——红枪会暴乱，6团一举平息；
侵占大张集、大柏围子的伪军，企图“蚕食”我根据地，6团主力西进，对其发起凌厉攻势，歼敌200余人，缴获轻机枪3挺，步枪60余支，粉碎了敌人的“蚕食”计划；
坚持本地反“扫荡”斗争，在靠敌陇海路据点很近的泗阳、宿迁两县境内，与敌人搞拉锯战，敌人白天来“扫荡”八路军，八路军就晚上去袭击敌人，仅在张集一地，我们就反复袭击了敌军3次，最后终于把这里的敌人赶了出去。在这一地区总共歼敌400余人，缴获机枪6挺，步枪300余支，骡马30余匹。
这大半年里，规模最大的一次战斗，就是保卫青阳镇。
青阳镇是皖东北根据地苏北境内的一个大镇（今泗洪县），南北西三面临濉河，北河两岸有土堤夹峙，东隔一道泥沟与陆地相结。全镇实际上是建在濉河在此分岔冲积形成的孤岛上的。
青阳镇是皖东北根据地政治、经济、文化中心，是濉河下游的重要水陆码头重要商埠，特别是海盐的重要集散地之一。这里商业发达，物资丰富，人口逾千户，是根据地筹集财政物资的重要资源地，长期让敌人垂涎欲得。因此，保卫好这个镇，是6团极其重要的中心任务。
那时的地方政府机关，不像现在有固定的地方，皖东北根据地此时尚不十分巩固，经常和敌人搞拉锯战，地委、专署为自身安全起见，不长住一个地方，只以青阳镇为中心，在镇东北、正东方向朱湖至半城、镇南方向双沟至管镇、镇西方至马公店以东一带流动，有时，也进青阳镇小憩。
为保地方党政机关安全，6团经常派出一个营跟随其附近活动，并配有几名便衣侦察员，始终紧随其队，随时向团部报告其行动方向、地点，以防不测。
1940年冬的一天傍晚，6团负责联络地方政府的侦察员忽然来报：
皖东北专署机关带一个地方警卫连，由魏营向北转移，已经进入青阳镇住宿。
这时，团长胡成正率2营和警卫连2个排在镇西南30里外上塘集附近活动。