1926年初夏，根据革命斗争的需要，党组织派赵尚志潜回东北的哈尔滨开展革命斗争活动。面对自己的第二故乡，他感慨万分，对它真是即熟悉又陌生。这里没有南方那种炽热的革命景象，到处是由反动统治阶级造成的令人窒息的冷落、沉闷和凄凉。
1931年9月18日，震惊世界的“柳条湖”事件爆发。日本帝国主义以武力侵略中国，蒋介石国民党政府却奉行丧权辱国的不抵抗政策。日本关东军占沈阳、夺吉林、陷齐市，肆无忌惮地攻城掠地，践踏我东北大好河山。1932年2月5日，又攻陷北满重镇——哈尔滨。仅数月之间，东三省绝大部分领土沦于敌手，三千万同胞陷入了水深火热之中。
在民族存亡的危急关头，中共满洲省委根据中共中央《关于日本帝国主义强占东三省事件宣言》的精神，号召人民群众罢工、罢课、罢市，发动武装斗争，反对日本帝国主义的武装侵略，誓将侵略者驱逐出中国。
中国共产党的反日号召，极大地振奋了中华民族的斗争精神。在亡国灭种的危机面前，一个声势浩大的反日爱国浪潮在东北大地迅速掀起。
赵尚志回到东北后，在中共哈尔滨市委、长春支部等地负责学生和青年运动。1927年2月，赵尚志受北满地委派遣，在长春筹建国民党吉林省党部，任常委兼青年部长。3月，因国民党案件在长春被奉系军阀逮捕，并押解于省城吉林，关押在吉林第一监狱。在狱期间与敌人进行了坚决斗争。
1929年3月，赵尚志被解往江苏苏州监狱。5月，经江苏省高等法院审判，宣布无罪释放。6月，获释后回到哈尔滨，在中共北满地委负责青年工作。同年下半年，去沈阳，在团满洲省委负责青年工作。1930年3月，受中共满洲省委书记刘少奇派遣，到上海参加党中央高级训练班和团中央训练班学习。
1930年4月，因在沈阳国民外交协会会场夺取讲坛公开演讲而被捕，拘押于沈阳宪兵司令部侦缉处拘留所。审讯期间受尽酷刑，坚贞不屈，虽受到酷刑拷打，却只是怒骂。5月，被转押于沈阳第一监狱，在狱中与敌进行英勇斗争。10月，在狱中秘密党组织“党团干事会”领导下，成立“经济委员会”任组长。
1931年“九一八事变”后，沈阳政权交替出现混乱，12月，经党组织营救，赵尚志被释放出狱。他随即赶到哈尔滨，发动工人、学生支援义勇军抗战。
1932年初，中共满洲省委由沈阳迁入哈尔滨。这时，赵尚志任全满反日党团书记。他遵照省委指示“应以布尔什维克的坚决性与敏捷性来进行动员”的要求，与以哈市商船学校教授身份为掩护、在省委秘书处工作的冯仲云（后任省委秘书长）一起，来到呼海铁路工厂向工人作反日宣传。他们趁工人下班刚涌出工厂大门时，召集工人聚会，进行讲演。赵尚志以慷慨激昂的语调号召工人团结起来罢工、怠工，支持义勇军的斗争，打倒日本帝国主义。冯仲云与之相配合，把藏在怀里的抗日传单一张张地散发给工友们。
一次，赵尚志去松花江北某地作宣传鼓动工作，是时天已渐暖，大江开始解冻，过江十分危险。为了完成任务，他想尽办法，找来两根长木杆，放在冰上，自己趴在上面，慢慢地向前挪动，冒着生命危险，终于渡过江去，完成了这次任务。
1932年4月，日本侵略者大举向哈尔滨以东和以北地区进犯。反日义勇军与日本侵略者在北满展开激烈战斗。松花江以南的宾县、方正、珠河、延寿、依兰等地李杜、冯占海、邢占青所率义勇军极其活跃，其活动范围直迫哈市市郊，“哈市在炮声震憾之下，风声鹤唳，市面一日数惊”。
