赵尚志在被许公中学开除前，曾阅读过黄埔军校校刊《黄埔潮》，了解到黄埔军校是座革命的熔炉。他十分渴望能到这所军校去学习军事。当他得知黄埔军校招生的消息后，即向组织提出投考的请求。中共哈尔滨特支负责人吴丽石经过认真考虑，同意他去投考。
1925年12月，赵尚志告别家人，抱着到黄埔努力学习革命本领，学成之后回东北进行革命斗争的坚定决心，携带着吴丽石写的介绍信和党组织为其筹集的路费，登上了南下的列车，奔赴广州。
在广州，经过严格的考试，他被录取了，成为黄埔军校第四期入伍生。这时候，在中国南方，轰轰烈烈的反帝反封建大革命正在迅猛地开展着。革命形势迫切需要军校造就培养出大批的有坚定革命意志、掌握革命理论和丰富军事知识的人才，因此，学校所教授的科目比较多，学习训练十分紧张。赵尚志因身材矮小、体质较差，有些科目跟不上，但他刻苦用功，不甘落后。他把许多休息时间都用在学习和训练上。功夫不负苦心人，很快，他的成绩赶了上来，赢得了教官和同学们的称赞。
进入黄埔军校后，赵尚志加入周恩来领导的“青年军人联合会”，成为共产党组织的青年军人联合会的积极分子，与“孙文主义学会”的反动学生经常展开斗争，并以观点激进、敢打敢斗闻名。翌年春，蒋介石“整理党务”压制共产党时，校方又将赵尚志视为最不安分者，迫使他中途退学。
1926年初夏，根据东北革命斗争的需要，党组织派遣他回东北，从黄埔军校回到哈尔滨，在中共哈尔滨地委工作，是“妇女运动”负责人。以后又负责中共长春支部长春通讯站工作。11月，由中共哈尔滨地委派往长春地区进行革命活动。
赵尚志在黄埔军校学习时间尽管为时很短，但对他来说是非同寻常的。它使赵尚志在以后投身戎马生涯，对于他在长期的革命斗争中，特别是在东北抗日游击战争中，指挥抗日部队和日本侵略者进行不屈不挠的斗争，起着重要作用。
