1939年秋，罗炳辉率领新四军第五支队（后编入新四军第二师）进驻安徽省来安县，以该县的半塔集为中心，建立起了一个抗日游击根据地，与日伪军进行顽强不屈的斗争。
在新四军的众多部队中，罗炳辉所领导的五支队有一个鲜明的特色，那就是每个战士都配发了一件冷兵器——大刀。这是罗炳辉在新四军中的首先开创的一种潮流。
众所周知，大刀作为一种冷兵器，其杀伤力是远远无法与能发射子弹的钢枪相提并论的。那么，罗炳辉为什么要给战士配大刀？大刀能对付鬼子吗？
那是在1939年5月，罗炳辉被任命为五支队司令员。上任伊始，他就注意到一个迫在眉睫的问题，那就是当时五支队的..弹药不足，必须尽快想办法予以解决，否则根本难以与装备精良的敌人对抗。
当时五支队的..弹药匮乏到了什么程度呢？每个新四军战士只配发了三发子弹，有的战士为了不让子弹袋看起来瘪塌塌的，便想了个办法，把树枝折成子弹长短装进去伪装成子弹。
可是罗炳辉心里知道，这样的伪装解决不了实际问题，要是真上了战场新四军还是会吃大亏。可当时五支队只是新四军的“编外”机构，..当局既不发军饷，也不供应补给。
更让战士们气愤的是，..来安县保安团虽然一听到日军的风声就吓得屁滚尿流，却嘲笑缺枪少弹的新四军五支队是一支“叫花子部队”。
面对着..部队的冷嘲热讽，面对着每人仅有三发子弹的现状和处于敌伪中心的困境，身为五支队司令员的罗炳辉开出了三帖药：单兵训练、战术训练和大刀。
因为只有近战可有一拼，而劈刀是近战的有力武器。由于新四军..杂，在与鬼子拼刺刀的时候常常吃亏。于是，根据地的军民用扒下来的铁轨制作大刀，铁轨坚硬，制造的大刀锋利无比，威震敌胆。曾经有鬼子向新四军二师阵地扑来，只见前沿阵地上空无一人，，唯独数十把大刀齐刷刷地插在地上，刀把上的红布迎风呼呼飘动，敌人胆寒而自退。
罗炳辉还根据实战需要和旧军队的刀法，改编了一套40多个动作的“大刀操”。起初罗炳辉亲自教授大刀操，后来，请来了一位冯玉祥部队的教官教授大刀操。
除此之外，罗炳辉还组织了大刀队。大刀队的成员都是罗炳辉精心挑选、严格训练的骨干，他们均为20岁上下、身强力壮的小伙子，计有180人，名为“学兵连”。
