后来，陈赓又几次催左权出去“走走”，向他介绍了许多革命理论。1925年1月，左权在陈赓、周逸群的介绍下，加入了中国共产党。此时，他刚好20岁。从此，共产主义信仰“成为他以后近20年政治生活的准绳”。与蒋先云、周逸群、许继慎、李之龙、陈赓等人都是青年军人联合会的重要人物，同“孙文主义学会”的右派进行了坚决斗争。同年2月，左权开始步入军事生涯，在讨伐陈炯明的第一次东征中，作战英勇，曾任黄埔军校学生军（党军）教导团排、连长。6月回师广州后，左权又参加了平定滇、桂军阀杨希闵、刘震寰的战斗。7月，在程潜攻鄂军（后来改编成国民革命军第6军）卫队任连长，参加了彻底消灭陈炯明的第二次东征。
黄埔军校毕业后，左权参加了东征战斗。淡水城下，他和战友们搭人梯攻城。棉湖之役，左权率一连之众冲锋在前，缴获最多。左权在战斗中的表现给苏联顾问留下了很深刻的印象。这年秋天，苏联共产党和苏联政府为了帮助中国培养革命人才，在莫斯科创立了孙逸仙中国劳动大学（亦称中山大学）。在中共党组织和苏联顾问的推荐下，左权被保送到苏联学习。
左权到中山大学后，被分在第一期第七班，这个班上有后来成为国民党要人的谷正纲、谷正鼎、邓文仪等，也有后来成为我党著名人物的邓小平、傅钟、李卓然、朱瑞等。
1927年9月，左权转到伏龙芝军事学院学习军事，与刘伯承、陈启科等同班。1930年4月，左权以优异成绩毕业，奉命回国。左权化装成一个俄文教员，头戴鸭舌帽，身穿蓝呢子大衣，鼻梁上架着一副镀金圆框眼镜，随身携带一批俄文书籍和一只表明身分的精致的俄国皮箱。左权与刘伯承等人一起从莫斯科乘火车至乌苏里斯克（中国人称其为双城子）下车，然后分两路偷渡绥芬河入境。他们又由绥芬河，经哈尔滨、沈阳到大连。到大连后，左权赶紧直奔约定地点。等了一会儿，远远看见刘伯承过来了，却没有朝这边看自己一眼。左权正想走过去，突然发现刘伯承身后几米外有一个人，头和身子都裹在高高的大衣领子里，两个眼睛紧盯着刘伯承，不紧不慢地跟着。左权只好眼睁睁地看着他们走过去了。看来刘伯承已经注意到了身后的可疑人物，故意带着“尾巴”来接头地点给左权看。左权跟在他们后面，看见他们进了一家杂货店，左权也赶紧进去，在一个柜台前站住，故意让刘伯承看见，两人顺柜台慢慢靠拢，错肩的时候，左权用俄语低声说：“有狼，出去后钻巷子。”刘伯承也轻声说了个地点，然后带着“尾巴”出去了。一会儿，左权也跟过去，看刘伯承一过去，突然闪身出来，跟“尾巴”结结实实撞了个满怀。“尾巴”被撞得眼冒金星，却来不及发火，匆匆紧走几步去找目标，哪里还有人影？等他醒过神来找撞他的人时，左权也早没影了。
甩掉了“尾巴”，他们在预定接头地点会合后，急忙离开大连，到达上海后，找到了党中央。
过了几天，老同学陈赓突然出现在面前。陈赓戴着黑礼帽，一身中山装，活脱脱一个国民党党棍，如果不是那熟悉的声音，简直不敢相认。久别重逢，两人心里自然十分高兴，然而身处险地，没有长谈的时间。陈赓通知他，几天内赶快离开上海。原来，与他们一同回国的黄第洪叛变了，写信给蒋介石，卖党求荣，甚至准备配合敌特诱捕周恩来。不料他的行踪被陈赓领导的特科发觉，于是通知左权他们火速转移，设法去苏区。离沪前夕，左权给家里写信说：“我虽回国，却恐十年不能还家，老母赡养，托于兄长，我将全力贡献革命。”
左权离开上海不久，陈赓他们就设法将叛徒黄第洪除掉了。
左权进入中央苏区后，先后担任过闽西红十二军军长、红一方面军总前委参谋处长、红五军团第十五军政委、红一军团参谋长等职，参加了苏区反围剿斗争和长征。
1936年5月，红军东征结束后，由于原红一军团军团长林彪调任红军大学校长，军委决定由左权代理军团长的职务。这一年的10月，红二、四方面军北上，与中央红军会师甘肃会宁。蒋介石惊恐万状，极欲乘红军长途远征、部队疲乏，立足不稳之机，一举歼灭红军，连电催促各部加紧围攻红军。蒋介石的嫡系胡宗南的第一军立功心切，紧迫红军不舍。左权和胡宗南及其手下的两个师长丁德隆、李铁军都是黄埔一期同学，尤其是丁德隆与左权是湖南同乡，湘军讲武堂和黄埔一期六队的同学。他在国民党军内号称儒将，屡次建功，这次竟孤军深入，大摇大摆进入红军的袋形阵地山城堡，给红军造成了全歼孤军的机会。
左权指挥红一军团和兄弟部队，发挥红军夜战特长，利用夜色的掩护，向敌人发起攻击，经一夜激战，国民党军第七十八师被歼大半。狂傲的丁德隆，败在老乡兼同学左权的手下，羞愧难当，从此退隐山林，不再问兵，潜心佛学，做了和尚……
山城堡一战，红军声威大振，坚定了张学良、杨虎城停止内战，联合红军抗日的决心，成为十年内战的最后一仗。
1930年6月，左权回到上海，9月经厦门、龙岩进入闽西苏区。初任红军军官学校第一分校教育长，左权回国后，他丰富的学识和引经据典、由浅入深的教学方法，深受军校学员欢迎。在野外教学时，他一面拿着地形图，一面指着地形地貌实地讲解，使学员们理解得快，印象深。有一次上课讲射击原理，说到弹道的弧形原理时，不少学员理解不了，总觉得子弹打出去应该是一条“直道道”。左权便举例子：“你们都看过顽童撒尿吧，他那个‘弹道’是一条直线呢，还是弧形的呢？”通俗的例子把学员们逗得哈哈大笑，疑难问题也就迎刃而解。任八路军副总参谋长时，他要求干部战士“既能武又能文”，使整个司令部的学习气氛空前浓厚。11月，当选为闽西工农革命委员会常委，12月初为红新十二军军长。1931年初任红一方面军总司令部作战参谋，6月升为参谋处长，开始显露出较强的组织才能。12月，受中央军委派遣前往宁都附近的固村圩，协同王稼祥、刘伯坚从事国民党第二十六路军起义的联络指挥工作。随后担任红军第五军团（由宁都起义部队改编）第十五军政委，不久，任军长兼政委。1932年6月，受王明左倾路线的迫害，左权被撤销军长兼政委的职务，调至红军学校任教官。1933年12月，他任红一军团参谋长。这时，中央苏区的第五次反“围剿”战争已经开始，战斗频繁而且极为艰苦。即使几天几夜不睡觉，他也从来“没有表现过倦怠、疏忽、放任与暴躁”。
1934年10月中央红军主力开始长征，长征时期毛泽东曾称赞左权是“神枪手”，朱德则称他是“模范军人”，是“钢铁般坚强、狮虎般勇猛”的优秀将领。左权随先头部队指挥作战。在攻打贵州施秉城时，他身先士卒，指挥果敢，行动迅猛，保证了大部队的顺利通过。5月，在强渡大渡河的作战中，左权率部先是在崎岖的小路中轻装疾行，出敌不意地直取小相岭隘口，攻下越西县城。之后一天急行140华里越过晒经关，他率军攻占了大树堡渡口，以佯渡之态势转移了敌军对安顺场方向的注意，成功地掩护了红一师从安顺场渡过大渡河。最终中央红军主力全部通过泸定桥，甩掉了尾追不舍的国民党中央军。
1936年10月红军三大主力胜利会师。11月中旬，在山城堡，左权、聂荣臻指挥红一军团与红十五军团一部完成了对胡宗南七十八师的包围。21日发起总攻，经过一昼夜激战，歼敌2个团，胡部的另几个师也被红军兄弟部队击败，山城堡一仗共毙俘敌军一万五千余人，粉碎了国民党军对苏区的进犯，稳定了陕北的局面。刘伯承说：“左权同志部署作战是细致周密的，1936年双十二事变前夜的陕北山城堡战斗，就是一个范例。”
“七七事变”后，红军改编为国民革命军第八路军。左权任副总参谋长、1938年12月，任八路军前方指挥部参谋长。1938年2月，日军4万人分三路进攻临汾，与八路军总部遭遇。在左权指挥下，他们坚持战斗，一直到后续部队赶到，击退了日军多次冲锋，这就争取到了3昼夜的时间，使数十个村庄的群众安全转移，使国民党在临汾、洪洞的军政机关顺利撤退，并使八路军在临汾的军需物资大部分转运出去。两个月后，日军3万余人对山西晋东南地区发动9路围攻。左权根据日军兵力分散的弱点，按照总部的部署，在内线，以游击战牵制、骚扰袭击敌军，将主力部队调到外线，寻找战机歼敌。4月15日终于光复了武乡县城，16日又在武乡县的长乐村布下口袋阵，全歼日伪军3000余人，此即“长乐战役”。随后，他率军在张店再歼敌1000余人，收复辽县、黎城等18座县城，解放人口百余万人，彻底粉碎了日军的9路围攻，奠定了晋冀鲁豫根据地的基础。
1939年底到1940年初，蒋介石发动了第一次反共高潮。国民党第九十七军军长朱怀冰与冀察战区鹿钟麟、石友三部纠集在一起，在日军的配合下，猛扑太行抗日根据地。3月上旬，身兼八路军第二纵队司令的左权，指挥部队在平汉路东西两侧发起自卫反击战，经4天4夜激战，击溃了石友三进犯军的进攻，全歼朱怀冰等部10个团，保住了太行抗日根据地。
1940年8月20日至12月5日，八路军发动了著名的百团大战。这次战役的总指挥所设在武乡县王家峪村。左权协助彭德怀全力投入作战指挥，将战役的整个部署安排得井井有条，真是运筹于帷幄之中，决胜于千里之外。连北平日军的报纸也说，“此次华军出动之情形，实有精密之组织”。左权不仅谋划整个战役的组织、参谋工作，而且还亲临第一线指挥作战。在百团大战的第三阶段，他协助彭德怀出色地指挥了关家垴战役。在最紧急关头，他命令说：“指挥所的同志全部向前推进，犹豫等于死亡！”左权的魄力和勇气极大地鼓舞了指挥部的士气，结果日军第三十六师团冈崎大队500余人，除60余人外，其余均被歼。左权有着严谨求实的工作作风，每在成就一件大事之前，都特别注重调查研究，掌握第一手材料。为兴建黄崖洞（在辽县、黎城交界处）兵工厂，他实地勘测地形，亲手规划工厂布局及保护工厂的军事设施的配置，经过一年的建设，一座年产足可装备16个团的兵工厂建立起来了。这在一定程度上改善了八路军装备匮乏的现状。刘伯承曾经说：“左权同志曾艰苦经营太行山制造兵器的设施起了相当的作用。黄崖洞兵工厂的建立，很快就成了日军的重点进攻目标。”
1941年11月，日军第三十六师团及独立混成旅团各一部7000余人向黄崖洞进攻，负责保卫黄崖洞的是八路军总部特务团，左权要求该团在保卫战中“一定要抓住一个‘稳’字，坚持不骄不躁，不惶不恐，以守为攻，以静制动的原则”。他还就应当注意的战术原则和其它有关注意事宜作了具体的布置。11日凌晨战斗打响。日军来势极猛，并施放了毒气。守军按照左权副总参谋长的指示顽强坚守阵地，并利用机会组织反击，打退了日军的多次进攻。日军接连失手后改变了策略，企图利用赤峪山东侧的悬崖，居高临下侧击守军阵地。左权及时指示特务团“待机行动，以变应变”，重新配置了防御力量，继续给进攻的日军以重大杀伤，大量消耗了其有生力量，顿挫了敌军的锐气。19日，黄崖洞保卫战进入尾声。八路军在三十亩、曹庄一带设下伏兵，当退却的日军进入伏击圈后，立即被密集的弹雨打得阵脚大乱，伤亡惨重，向黎城方向溃逃。21日乘胜追击的八路军收复了黎城，胜利地结束了黄崖洞保卫战，此仗日伪军损失2000余人，敌我伤亡之比为6∶1。中央军委认为，这次保卫战是“最成功的一次，不仅我受到损失少，同时给了敌人数倍杀伤，应作为1941年以来反‘扫荡’的模范战斗”。
左权多次指挥战斗取得胜利，体现了他高超的军事素养和军事理论功底，他素以学习刻苦，精于钻研，而博得了人们对他的尊敬。他阅读了许多政治理论、军事理论的书籍，对八路军的军队建设、军事理论建设作出了突出的贡献。他与刘伯承合译的《苏联工农红军的步兵战斗条令》，于1942年被十八集团军总司令部列为步兵战术教育的基本教材，并要求“今后本军关于现代步兵战术的研究，均应以此为蓝本”。左权对战术问题特别是游击战术的研究颇有创新，“为中国著名的游击战术创始人之一”，其军事著述的突出特点是理论联系实际，结合中国国情的特殊性阐述了以马克思主义理论为指导的具有中国革命战争特色的军事思想原理。在八路军军队的建设中，他对司令部工作、后勤工作、部队训练、军队政治工作、军民关系等，都有独到的建树和巨大的成就。左权善于思考、勤于笔耕，撰写和翻译了诸多颇具影响的军事著作。仅在华北敌后5年间即译著共20余万字。周恩来说左权是“一个有理论修养，同时有实践经验的军事家”。
