“七七”事變后，松花江下游地區抗日斗爭的發展引起日偽軍的恐慌，他們調集5萬多人的兵力包圍抗日聯軍。對此，北滿臨時省委決定：跳出敵人包圍圈，組織部隊向西北遠征。1938年11月，李兆麟率領六軍教導隊和十一軍隊伍，翻越小興安嶺，向黑嫩平原遠征。此時的東北已是北風呼嘯、大雪紛飛的嚴冬季節，戰士們冒著刺骨的嚴寒在林海雪原中行進。白天分成小部隊活動，夜間在篝火旁露營，與饑餓、寒冷和疲勞作戰，克服了種種難以想象的困難。經過一個多月的長途跋涉，于同年底到達海倫縣境內，與先頭部隊勝利會師。期間，他寫下了著名的“露營之歌”：“朔風怒號，大雪飛揚。征馬踟躕，冷氣侵人夜難眠。火烤胸前暖，風吹背后寒。壯士們！精誠奮發橫掃嫩江原。偉志兮！何能消減。全民族，各階級，團結起，奪回我河山。”

1939年5月30日，東北抗日聯軍第三路軍成立，下轄4個支隊。李兆麟任總指揮，率部在廣袤的松嫩平原開展游擊戰，打擊日偽軍，先后攻克訥河、克山、肇源等縣城，開辟了抗日游擊區和后方基地。從1939年6月至1940年3月，抗聯第三路軍取得了30多次戰斗的勝利，繳獲武器500多件，斃敵250余人，攻克城鎮七八處。他還在朝陽山根據地開設干部訓練班，提高部隊干部的素質。

1940年底，抗聯部隊在極其艱難險惡的環境下遭受嚴重挫折，李兆麟和周保中等組織整訓部隊，繼續堅持斗爭，任整訓后的東北抗聯教導旅政治副旅長。抗日戰爭勝利后，他以中共代表身份任濱江省副省長，兼任哈爾濱市中蘇友好協會會長等職。面對當時東北復雜的險惡形勢，他把個人安危置之度外，堅定地說：“如果我的血能擦亮人民的眼睛，喚醒人民的覺悟，我的死也是值得的。”　　　1946年3月9日，李兆麟在哈爾濱被國民黨特務暗殺，時年36歲。為紀念他，哈爾濱市將道里公園改名為“兆麟公園”。