１９２１年１０月，蔡和森因領導留法勤工儉學學生斗爭被法國政府強行遣送回國。同年底加入中國共產黨，并在中共中央從事黨的理論宣傳工作，成為黨早期重要的理論家和宣傳家。１９２２年６月，他出席黨的二大，參與起草二大宣言，為制定黨的民主革命綱領作出了貢獻，當選為中央執行委員會委員。１９２２年９月起任中共中央機關報《向導》周報主編，組織發表并親自撰寫大量文章，宣傳馬克思列寧主義和黨的綱領、主張等，揭露和批判帝國主義和封建軍閥，為維護、推動國共合作大革命高潮的到來做了大量工作。這期間，他還運用馬克思列寧主義積極探索中國革命基本問題，對中國革命的性質、任務、前途、中國社會各階級在革命中的地位和作用等問題，提出了許多正確觀點。

在黨的三大、四大上，他當選為中央局委員，參與中央領導工作。１９２５年參與領導五卅反帝愛國運動。同年１０月，受中共中央委派，赴莫斯科參加共產國際第五屆執行委員會第六次擴大會議，會后任中共駐共產國際代表。１９２７年春回國，在５月舉行的中共五屆一中全會上當選為中央政治局委員、常委，隨后又兼任中共中央秘書長。