１９３７年全國抗戰(zhàn)爆發(fā)后，羅炳輝曾以八路軍副參謀長名義，在八路軍武漢辦事處從事統(tǒng)一戰(zhàn)線工作。１９３９年１月任新四軍第１支隊副司令員，５月任第５支隊司令員，率部開辟皖東抗日根據(jù)地。曾指揮部隊三打來安縣城，沉重打擊了“掃蕩”、搶糧的日偽軍。１９４０年任新四軍江北指揮部副指揮兼第５支隊司令員。１９４１年起任新四軍第２師副師長、師長兼淮南軍區(qū)司令員等職，率部轉(zhuǎn)戰(zhàn)于淮河以南、長江以北的津浦鐵路兩側(cè)，積極開展抗日游擊戰(zhàn)爭，為鞏固和擴大淮南抗日根據(jù)地作出了重要貢獻。他注意從嚴治軍，言傳身教，強化官兵的戰(zhàn)術(shù)技術(shù)訓練，全面提高部隊戰(zhàn)斗力。親自編寫了《指揮員實用手冊》《民兵戰(zhàn)術(shù)》等教材，并經(jīng)常給基層指揮員上軍事課。

１９４５年８月初，羅炳輝雖身患重病，仍親臨前線指揮所部參加大反攻，解放了蘇皖邊界的六合、定遠、嘉山、天長等城鎮(zhèn)。９月，任新四軍第２縱隊司令員，率部趕赴魯南，參加界河伏擊戰(zhàn)，攻克韓莊，粉碎了國民黨軍從徐州沿津浦鐵路北上、進犯解放區(qū)的企圖。１９４６年４月，任新四軍第二副軍長兼山東軍區(qū)副司令員。６月，在國民黨軍發(fā)動全面內(nèi)戰(zhàn)前夕，到棗莊前線指揮作戰(zhàn)。２１日在返回臨沂途經(jīng)蘭陵時突然病情惡化，不幸逝世。

羅炳輝用畢生的精力實現(xiàn)了自己的諾言：“人生最快慰的是真正勇敢地犧牲個人的一切利益，最熱誠努力地為民族獨立、自由、解放而斗爭。尤其要為勞動大眾的解放和利益，以真理、正義、公道為人類的幸福而斗爭。”