１９３７年全國(guó)抗戰(zhàn)爆發(fā)后，羅炳輝曾以八路軍副參謀長(zhǎng)名義，在八路軍武漢辦事處從事統(tǒng)一戰(zhàn)線工作。１９３９年１月任新四軍第１支隊(duì)副司令員，５月任第５支隊(duì)司令員，率部開(kāi)辟皖東抗日根據(jù)地。曾指揮部隊(duì)三打來(lái)安縣城，沉重打擊了“掃蕩”、搶糧的日偽軍。１９４０年任新四軍江北指揮部副指揮兼第５支隊(duì)司令員。１９４１年起任新四軍第２師副師長(zhǎng)、師長(zhǎng)兼淮南軍區(qū)司令員等職，率部轉(zhuǎn)戰(zhàn)于淮河以南、長(zhǎng)江以北的津浦鐵路兩側(cè)，積極開(kāi)展抗日游擊戰(zhàn)爭(zhēng)，為鞏固和擴(kuò)大淮南抗日根據(jù)地作出了重要貢獻(xiàn)。他注意從嚴(yán)治軍，言傳身教，強(qiáng)化官兵的戰(zhàn)術(shù)技術(shù)訓(xùn)練，全面提高部隊(duì)?wèi)?zhàn)斗力。親自編寫(xiě)了《指揮員實(shí)用手冊(cè)》《民兵戰(zhàn)術(shù)》等教材，并經(jīng)常給基層指揮員上軍事課。

１９４５年８月初，羅炳輝雖身患重病，仍親臨前線指揮所部參加大反攻，解放了蘇皖邊界的六合、定遠(yuǎn)、嘉山、天長(zhǎng)等城鎮(zhèn)。９月，任新四軍第２縱隊(duì)司令員，率部趕赴魯南，參加界河伏擊戰(zhàn)，攻克韓莊，粉碎了國(guó)民黨軍從徐州沿津浦鐵路北上、進(jìn)犯解放區(qū)的企圖。１９４６年４月，任新四軍第二副軍長(zhǎng)兼山東軍區(qū)副司令員。６月，在國(guó)民黨軍發(fā)動(dòng)全面內(nèi)戰(zhàn)前夕，到棗莊前線指揮作戰(zhàn)。２１日在返回臨沂途經(jīng)蘭陵時(shí)突然病情惡化，不幸逝世。

羅炳輝用畢生的精力實(shí)現(xiàn)了自己的諾言：“人生最快慰的是真正勇敢地犧牲個(gè)人的一切利益，最熱誠(chéng)努力地為民族獨(dú)立、自由、解放而斗爭(zhēng)。尤其要為勞動(dòng)大眾的解放和利益，以真理、正義、公道為人類的幸福而斗爭(zhēng)。”