１９３９年，回民教導總隊改編為八路軍第三縱隊回民支隊，馬本齋任司令員。１９４２年８月，回民支隊奉命到達冀魯豫抗日根據地，他被任命為冀魯豫軍區第三軍分區司令員兼回民支隊司令員。馬本齋作戰勇猛，身先士卒，在回民支隊和廣大群眾中享有很高威望。改編后的回民支隊，在他的率領下，戰斗力不斷提高，隊伍迅速發展到２０００多人，成為八路軍冀中軍區野戰化較早的一支能征善戰的精銳部隊。

日本侵略軍為消滅回民支隊，無所不用其極，但都沒有能夠得逞。１９４１年８月２７日，日本侵略軍抓走了馬本齋的母親白文冠，企圖逼降素有孝子之名的馬本齋。同時，以馬母為誘餌，誘使馬本齋率部來救，以乘機消滅回民支隊。日本侵略軍用種種手段，逼迫馬母給馬本齋寫勸降信。但是，深明大義的馬母寧死不屈、義正辭嚴地拒絕敵人：“我是中國人，我兒子當八路軍是我讓他去的。勸降？那是妄想！”馬母絕食７天，以身殉國。回民支隊指戰員紛紛請戰，要為馬母報仇。馬本齋沉痛地勸說戰友們，“以大局為重，不要上敵人的圈套。”他向母親寫下誓言：“偉大母親，雖死猶生，兒承母志，繼續斗爭！”

從１９３７年至１９４４年，馬本齋率領回民支隊，不懼犧牲，浴血作戰，奮勇殺敵，經歷大小戰斗８７０余次，殲滅日偽軍３．６萬余人，在廣闊的冀中平原和冀魯豫邊區，所向披靡，屢建戰功，打得日本侵略軍聞風喪膽。

１９４３年底，他在率部參加冀魯豫抗日根據地反蠶食戰斗中，頸后長了毒瘡。由于戰事繁忙，加之缺醫少藥，未能及時治療，不久病情加重。１９４４年１月底，回民支隊奉命開赴延安。出發前，他抱病為部隊作了最后一次動員，叮囑同志們“要跟著黨，跟著毛主席，抗戰到底！”同年２月７日，馬本齋在冀魯豫軍區后方醫院不幸病逝，時年４２歲。３月１７日，延安各界舉行馬本齋追悼大會，毛澤東、周恩來、朱德等中央領導送了花圈和挽聯。毛澤東的挽詞是：“馬本齋同志不死！”周恩來的挽詞是：“民族英雄、吾黨戰士！”朱德的挽詞是：“壯志難移，回漢各族模范。大節不死，母子兩代英雄！”