闲居三个月后，岳飞难以压抑心中报效国家的强烈意愿，决定投奔河北路招抚使张所。张所是一位爱国将领，这时他正置北京（大名府），招募义勇民兵，蓄积力量，准备反攻。张所素知岳飞有勇有谋，见到岳飞就问道：“听说你作战勇冠三军，你自己衡量能对付多少敌人？”岳飞回答说：“光凭勇敢是靠不住的。用兵首先要有谋略，谋略是决定战争胜败的关键。”张所感到岳飞的话很有道理，不觉肃然起敬。请岳飞坐下畅谈。谈到当前局势，岳飞慷慨陈词，泪流满面，矢志以身许国。张所很赏识岳飞的胆略，任命他当中军统领，不久升为统制，编置在都统制王彦的统辖之下。
这一年秋天，张所被投降派捏造罪名罢官，朝廷改派王彦接替张所任河北招抚使。王彦集合了岳飞等十一名将官，率领部众七千人，渡过黄河，攻击金军。开到卫州新乡县（河南新乡），岳飞带领所部战士与金守军鏖战。岳飞亲自夺取金军的大旗，不断挥舞，将士们呼声震天，个个奋勇争先，终于收复了新乡县城，活捉金军千户阿里孛。接着，又打败金军万户王崇。
岳飞接着又带着战士同金军大战于侯兆川（今河南辉县）。在大战前，岳飞鼓励部下说：“我军两次打败敌人，敌人一定会竭尽全力来反击。我们人数少，为了争取胜利，凡不服从命令，不奋勇杀敌的，一律斩首。”兵士们同仇敌忾，个个奋勇争先，作殊死战。在激烈的战斗中，兵士伤亡很多，岳飞自己也受伤十多处，终于大败金军，俘获大批金军和战马。
经过几次战斗，金朝以为宋朝派来了大批人马，就派出几万人，把王彦、岳飞的营寨团团围住。王彦、岳飞合计自己的人马很少，武器也较简陋，连战必败，为了保存战斗力量，就决定突围。
突围后，由于孤军作战，兵员损失严重，给养供应不上，部队陷入困境。王彦率主力退入太行山中。岳飞率所部多次击败金军的追击，他曾手拿丈八铁枪，单骑刺杀金军将领黑风大王，使大队金军闻风逃窜。尽管取得了一些战斗的胜利，但岳飞这支队伍毕竟人数太少，自从跟王彦的主力分开后，越来越感到势孤力单，难以长期坚持下去，于是决定一边战斗，一边向南撤退。这年冬天，岳飞转战到汴京，再次投奔汴京留守宗泽，宗泽委任他做留守司的统制。
宗泽在汴京加强治安，整顿社会秩序，团结各地流民首领，招募新兵，规划战具，使汴京重新成为抗战的中枢。宗泽还把全面反攻的计划奏报朝廷。建炎二年春，岳飞在宗泽指挥下，在黄河以南连续跟金军进行战斗，获得胜利。七月，宗泽不幸病逝。临终前，宗泽劝勉部将们说：“你们能替我歼灭强敌，完成恢复之志，我虽死无恨！”连呼三声“过河！”然后死去。
宗泽死后，朝廷派杜充接替宗泽的汴京的官职。他一到汴京，就尽反宗泽所为。由宗泽辛苦集结的武装力量，见杜充无意抗金，便各各引去，很快就走散了一大半。岳飞本来不愿受杜充的节制，但他认识到汴京这个据点在抗金斗争中的重要性，便决心坚守汴京。
这时，不断传来金军大举南侵、赵构已逃到江南的消息，杜充如坐针毡，再也没有胆量留在汴京，决定弃城逃跑。岳飞闻讯，立刻向杜充进谏。杜充主意已定，拒绝岳飞的忠告，径自带领部下退到建康（江苏南京）。岳飞也只好随军南下。赵构听说杜充已经放弃汴京，到达建康，就命令他驻守建康，把防守两淮和长江的责任交给了他。
这一年的冬天，金军在阿骨打第四子兀术率领下，再次大举南侵，建康终于失陷，杜充叛变降敌。岳飞率所部转移至广德军（安徽广德）。金军也取道广德向浙东进发。广德军经过金军的蹂躏，百姓的粮食、财物早被洗劫一空。岳飞设法夺取敌人的给养来供给军食，他自己跟普通士兵一样过着艰苦的生活。当时，全军将士经常挨饿，但岳飞约束部下，不准骚扰民户，因此这里的商市还照常营业。
建炎四年正月，岳飞率军向北开到常州宜兴（江苏宜兴）驻守，归张俊统辖。这时的岳飞经过四年多的战斗，已更加成熟、老练，成为一个能征惯战、智勇双全的将领，他的部属也锻炼成为一支斗志旺盛的坚强队伍。
金军追赶赵构到海上，被宋舟师击败。兀术这时担心孤军深入，被宋军切断后路，决定放弃南进计划，由杭州班师北撤，一路大肆掳掠。金军撤退到常州宜兴。岳飞以逸待劳，给予金军迎头痛击，连续四次打败敌人。接着，岳飞率部紧跟金军，一直追击到镇江。金军撤退到镇江，被浙西制置使韩世忠部打败，后侥幸逃到建康。
宋廷命令岳飞收复建康城。岳飞立刻率领部下，赶到建康城南的牛头山上埋伏。半夜，他派一百名战士混到敌营中，扰乱敌军。金军在睡梦中惊醒，以为宋军前来偷袭，营中一片混乱，以至自相残杀。岳飞得知金军正从建康城撤退，由静安镇（江苏南京西北）渡江北去，立即带领部下飞速赶到静安镇附近。这时建康城已经变成一片火海。原来兀术在临走时，下令杀光城内的居民，抢光所有财物，然后放火把所有房子点着。岳飞和他的战士们，遥遥望见建康城内火光冲天，听到了城内传来的阵阵哭喊声，个个怒不可遏。一声令下，战士们以翻江倒海之势，冲向还没有来得及撤走的敌人。岳飞持枪跃马，在敌人队伍中纵横驰骋，如入无人之境。金军急于北撤，毫无准备，被宋军打得大败。来不及渡江的金军余部，全被宋军消灭。战斗结束，统计战果，击毙敌军不计其数，十多里内，金军横尸遍野；斩获耳带金环和银环的金军将领首级一百七十多个；活捉敌兵三百多名，其中女真人八名；缴获马甲一百九十多副，弓箭刀旗金鼓三千五百多件。岳飞胜利地收复了建康。
经过金军洗劫后的建康城几乎成为一片废墟。岳飞在建康驻扎不久，因给养发生困难，便领兵回到了宜兴休整。
孤军挺进志复国
当岳飞在建康前线连传捷报时，赵构小朝廷正在越州（浙江绍兴）。岳飞派人将战俘和战利品押送到那里，顺便递上自己的奏章。在奏章中，他极力陈说建康在军事上的重要性，主张应派出重兵防守。他还报告说，最近张俊要派他驻守鄱阳（江西波阳），但江东、江西并不是敌人渡江南侵的必经之路，因此他自告奋勇，表示愿意过江去淮南防守。
淮南主要包括今天的江苏北部和安徽北部等地，牢牢控制这一地区是保障江南安全的必要条件。但赵构没有理会岳飞的这一要求，只是虚与委蛇地表示嘉奖。
建炎四年七月，有一个名叫邵纬的官员上书朝廷，盛赞岳飞骁勇、沉着、刚毅，而谦虚、谨慎又像一名书生。邵纬历举岳飞从河北投军后到收复建康止，在各次战役中所建立的功绩，指出岳飞威名已经传播四方，却仍跟普通兵士同食，军纪严明，民间秋毫无犯。大将张俊从浙西入朝，也在宰相范宗尹面前保举岳飞，范宗尹一一转达给赵构。赵构决定委派岳飞为镇抚使，兼知泰州，负责防守扬州以东的地区，直接受浙西安抚使刘光世的统辖。
岳飞在得到朝廷委派后并不愿就任。他希望到淮东更接近金军的前线地带，负担最艰难的任务。于是他上书赵构，陈述自己的这一志愿。为了取得朝廷的信任，他还在奏章里提出情愿把老母、妻子和两个儿子留在后方为人质。赵构不理会岳飞的要求，坚持命他去通、泰任职。岳飞只好服从，九月初进入泰州城。
当时，金兵已攻下承州，正在围攻楚州（江苏淮安）。楚州位于淮河、运河的交汇口，是由淮北到淮南的交通要道，也是宋朝在淮南的一个军事重镇。赵构小朝廷得到楚州被围的消息，先后拟派神武右军都统制张俊和浙西安抚大使刘光世去楚州援救。他们都不敢亲自过江。
在这种情况下，朝廷只得命令岳飞领兵救援楚州。岳飞接到命令后，便差统制官张宪守泰州，自己率主力到三墩安营扎寨，声援楚州。随后就进军承州。在承州境内近一个月的时间里，岳军与金军重兵大战三次，每次都取得胜利。
岳飞这次挺进淮南，实际上处于孤军作战的局面，岳飞曾几次请求刘光世增派一两千名士兵，调拨十几天的军粮，以便激励士卒，解楚州之围。但刘光世始终未允，这样，岳飞也难以把军队直接开到楚州去跟敌人作战。
在粮尽援绝的情况下，九月底，楚州城被金兵攻破。知州赵立英勇牺牲。楚州沦陷后，岳飞只得退回泰州，加紧布置防御工作。浙西安抚大使刘光世为了推卸不救楚州的罪责，竟然向朝廷一再声称，承、楚两州的失陷完全是因为岳飞拖延时间，否则一定能打败承州的敌军和解救楚州之围。但朝廷并未加罪岳飞。
金挞懒攻下楚州城后不久，带领二十万人，沿着大运河转向泰州。挞懒首先进攻泰州的水寨。张荣一直坚持到十一月，后来只好放弃水寨，率领水军向南转移。泰州地处平原，无山险可恃，惟一的地利是湖泊和河道。水寨的失陷，使泰州城完全暴露在金军面前，岳飞军已经无险可恃。这时，往湖州催督军粮的使臣空着手回来报告说，湖州知州赵子磷借口尚未接到朝廷命令，拒绝调拨。在这种困难情况下，岳飞估计敌我力量过于悬殊，决定放弃泰州城，向南撤退。岳飞军由柴墟渡过长江，移屯江阴，随即把失守的消息报告朝廷，听候治罪。朝廷下诏答应他领军在江阴就粮，尽力防御金军过江。
艰苦转战收失地
后来，金军改变战略，集中东、西两路兵力征服陕西和四川地区。兀术引主力进入川、陕作战。在中原，则扶植汉奸刘豫建立齐国，作为金、宋中间的缓冲，使宋不能直接威胁金朝，而金朝可以随时通过齐国攻打宋朝。
金朝统治者还施展了一条更为毒辣的诡计，把已经投降的秦桧放回宋朝去充当奸细。
秦桧年轻时在太学读过书，登第后，担任州学教授。北宋灭亡前夕，秦桧任御史中丞。金军攻占汴京，准备立张邦昌为帝，秦桧独自向金帅上书表示反对，要求由皇储继承宋朝的皇位，因此颇得声名。金帅指名索要秦桧，成为俘虏。到北方后，秦桧见宋朝大势已去，屈膝投降了敌人，很快就成为挞懒的亲信，随军为挞懒出谋划策。秦桧曾替被金朝羁留的宋徽宗起草文稿，呈送金帅粘罕，文稿的主要内容是为金朝献计：与其出兵远征，劳师动众，不如派回一名宋廷旧臣，让他劝谕南宋皇帝自动归顺，世代臣属，年年纳贡，这样就可以“不烦汗马之劳，而坐享厚利”。这一计策虽然没有立即被粘罕采纳，秦桧由此却更受金朝统治者的赏识。金兵围攻楚州时，秦桧及其妻子王氏都在挞懒军中，任随军转运使。金军攻下楚州后，秦桧带着王氏以及四五名随从坐船从海上到达浙东。
秦桧突然归来，引起许多官员的怀疑。只有宰相范宗尹跟秦桧是老相识，在赵构面前极力推荐秦桧“忠心”，因而得以见到赵构。秦桧一见赵构，就兜售“议和”妙策。他说：“如果要使天下平安无事，必须是南自南，北自北。”建议与金议和，还请求赵构写信给挞懒“求好”。第二天，范宗尹进呈由秦桧代赵构草拟的一份通过挞懒向金朝求和的国书，赵构看后说：“秦桧朴忠过人，朕得到了他，高兴得一夜都睡不着觉。”任命秦桧为礼部尚书。三个月后，即绍兴元年（1131）二月，升为参知政事。七月，范宗尹罢宰相职。秦桧看到朝廷缺相，图谋夺取宰相高位。他放出空气，声称：“我有两个计策，可以耸动天下。”有人问他为什么不讲，秦桧回答说：“如今没有人当宰相，不好实行啊！”这话传到赵构耳中，加上正好有一些大臣暗中推荐秦桧，就在八月提拔他做右相兼知枢密院事。秦桧在朝网罗主和官员作为自己的党羽。
次年七月，左相吕颐浩出师回到朝中，与秦桧意见不和。八月，殿中侍御史黄龟年弹劾秦桧“专门主张和议，阻碍国家恢复中原故土的长远计划”，“培植党羽，独专大权”等罪。吕颐浩也向赵构极力揭露秦桧。赵构向兵部侍郎说：“秦桧说‘南人归南，北人归北’，朕是北人，该归哪里？”又说：“秦桧做宰相已经几个月了，说要耸动天下，可是到现在还没有听说什么。”于是将秦桧罢免相位，并且在朝堂出榜宣告，朝廷“永不复用”。秦桧的党羽也被驱逐一空。
从绍兴元年到绍兴三年，岳飞前后三年驰骋在江西、湖南等地，既平定了叛乱武装，也镇压了农民起义。他从这些武装力量中收编了一部分精明强干的士兵，用来补充队伍，绳以纪律，使自己的部队逐渐发展成一支拥有近三万人的劲旅。岳飞逐渐成为与刘光世、韩世忠、张俊相提并论的大将。绍兴三年九月，岳飞带着长子岳云，到临安府（浙江杭州）朝见赵构。赵构赏给岳飞父子衣甲、马铠、弓箭、战袍、战马等物，又赐给军旗一面，上面绣着赵构亲写的“精忠岳飞”四个大字。岳飞被提升为镇南军承宣使、神武后军都统制、江南西路舒蕲州制置使，在江州（江西九江）、兴国军（湖北阳新）、南康军（江西星子）一带驻军防守。
