根據中共滿洲省委的指示，１９３５年１月，以哈東支隊為基礎，正式成立了東北人民革命軍第３軍，趙尚志任軍長。隨后，他率領第３軍主力北上松花江下游地區，與夏云杰領導的湯原游擊隊會合，擴大和鞏固了湯原抗日游擊根據地，并幫助湯原游擊隊完成了改編任務。１９３６年１月，趙尚志任北滿抗日聯軍總司令部總司令。同年８月任東北抗日聯軍第３軍軍長。后任中共北滿臨時省委執委會主席、東北抗日聯軍第２路軍副總指揮。面對日偽軍的瘋狂“討伐”“清剿”，在極其艱難困苦的險惡環境中，趙尚志率領抗聯部隊對日偽軍進行了英勇無比的戰斗。他們冒著零下４０多攝氏度的嚴寒，遠征松嫩平原，爬冰臥雪，風餐露宿，用歌聲抵御著饑餓和寒冷，戰勝了數不清的難以想象的困難。在半年多的遠征中，縱橫數千里，作戰百余次，打破了日偽軍一次次的重兵“討伐”和“清剿”。

１９４０年夏，趙尚志被當時的北滿省委以反王明、康生為由錯誤地開除黨籍。但他忍辱負重，仍率小分隊堅持抗日斗爭。他對周圍的同志說：“我生是共產黨的人，做黨的工作是我一生的任務，我一天也不能離開黨，死也要死在東北抗日戰場上。”１９４２年２月１２日，他在率部對敵人作戰中身負重傷被俘，誓死不降，痛斥敵人。窮兇極惡的敵人割下了他的頭顱，運到長春慶功，把他的軀體扔進了松花江的冰窟中。趙尚志壯烈犧牲時，年僅３４歲。

新中國成立后，為了表彰趙尚志的抗日功績并永遠緬懷這位抗日英雄，人民政府把珠河縣改名為尚志縣，把他的犧牲地改為尚志村，把哈爾濱的一條主要街道命名為尚志大街。