与此同时，北路刘官芳部进攻祁门，攻到距祁门二十里的历口。曾国藩让朱品隆率兵去防历口。见到湘军援军赶来，刘官芳放弃了进攻历口的想法。也许正是曾国藩的举重若轻迷惑了太平军。
刘官芳刚退走，占了景德镇的李世贤又乘胜攻向祁门。这次，曾国藩还没出手，左宗棠赶到乐平附近阻住交战。
在祁门困守的曾国藩自知待在这个地方必死无疑，于是组织张运兰、娄云庆等部八千余人向东进攻徽州城，想打开祁门的东部通道。然而，徽州城有太平军重兵把守，张、娄一味猛攻，久攻不下退回休整时，反被城里的太平军杀出来打了个措手不及。曾国藩只得退回祁门。
恰在此时，左宗棠的楚军在乐平打败李世贤部。李世贤败走浙江，诸军也随之退去，祁门之围缓解。但是，时时感到危机四伏的曾国藩一刻也不愿意在祁门待了。他立即派鲍超再次进攻西南方的景德镇。太平军守将是大将黄文金，因作战受伤，为保存实力退走，鲍超趁机占了景德镇。
这样，逃离祁门的西南通道打开了。
咸丰十一年三月二十七日（1861年4月6日），在祁门大营被困了一年多的曾国藩先往西南走，再朝西北进军到东流。东流背靠长江，面朝安庆。曾国藩将指挥部设于长江靠岸停泊的大船上。
现在，湘军、太平军都围绕着安庆实施着自己的战略计划。
曾国藩围攻安庆的战略十分明确：围攻、占据安庆，切断洪秀全天京的粮草供应，进而进逼南京；如果陈玉成领兵来救，在外围策应的多隆阿、鲍超、李续宜等军就聚而歼之。围攻安庆的曾国荃发动士兵在安庆城三面深挖长壕，临长江、临湖的一面则以水师包围。
湘军这样兴师动众地围攻安庆，武汉等两湖大后方的兵力则十分空虚。
洪仁玕看出了这一点，他的应对策略仍是“围魏救赵”。
北路的陈玉成进兵神速，自咸丰十年八月（1860年9月）从安徽定远出发，一个月便行至桐城西南的挂车河，准备支援安庆。然而，陈玉成在这里遭遇多隆阿的守军，双方鏖战数日，最后陈玉成败下阵来，只得退回庐州。
咸丰十一年二月，陈玉成组织五万大军西征，半个月里连克英山、蕲水、黄州，逼近武汉。本以为陈玉成还会在安庆周围找机会的胡林翼急得口吐鲜血，病势垂危，赶紧调彭玉麟、李续宜水陆两军回救武汉，但远水哪救得了近火。
这时的武汉城已经乱作一团，官员、富商逃亡一空。官文胆都快吓破了，但若弃城西逃肯定难脱皇帝的重罚，只得带着几千名老弱病残坚守在城里。
陈玉成围攻武汉的时候，英国海军将领何伯借口汉口为《北京条约》规定的开放商埠，不准陈玉成在武汉用兵。陈玉成认为这是和洋人搞好关系的机会，就给了何伯一个面子，只留下赖文光一军驻守黄州，率大军转攻湖北北部，占领德安（今安陆县）、随州，打算从北路围困武汉，等待李秀成的南路大军。但是，等了不到一个月，安庆吃紧，何伯又赖在武汉不走，陈玉成只好回援安庆。这样，北路军的西征计划便破产了。
南路的李秀成认为，经营好江浙，斩断清朝的粮仓和钱袋，比拿下几个武汉都值得。这遭致洪仁玕和洪秀全的批评。迫于压力，李秀成于咸丰十年十月（1860年11月）率领部分军队进入皖南，主力则留守苏、常。
李秀成西征被鲍超打退后，改道浙江进入江西，一路血战进入湖北，咸丰十一年五月八日（1861年6月15日）即陈玉成离开湖北两个月后攻占了武昌县。当地民众热情高涨，纷纷加入太平军，据说一下子就有三十万人加入了李秀成的队伍。但是，李秀成仍同陈玉成一样，迫于何伯的压力放弃进攻武汉，返回了江浙。南路军的西征也破产了。
太平军攻武汉、保安庆的战略未能实现，曾国藩认为已无后顾之忧，便放开手脚，调集湘军全部人马，围攻安庆。
咸丰十一年三月（1861年4月），陈玉成由湖北回师，从宿松、石牌（今怀宁）攻入集贤关，由西北方杀来，对围攻安庆的湘军展开攻势。曾国藩一面令曾国荃拼命顶住，坚守待援；一面急招往江西景德镇支援的鲍超回师。
陈玉成攻入集贤关后，大部队被壕沟所阻前进不得，就派吴定彩部千人进入安庆，协助叶芸来守卫安庆，下令在菱湖南北两岸筑垒十八座，用小船往来湖中，向安庆城运送粮草。由芜湖北渡的黄文金和由天京前来的洪仁玕、林绍璋等也都率军攻到安庆外围。这样，安庆暂时稳定下来。
曾国藩调兵遣将：对陈玉成的援军，调鲍超、成大吉等军应对；对黄文金、洪仁玕、林绍璋等援军，令多隆阿顶住，并让多隆阿伺机派兵帮助鲍超吃掉陈玉成部。
陈玉成和曾国荃鏖战了几天，总是难以靠近安庆城边。四月十日（5月19日），陈玉成留下刘玱琳守卫集贤关，自己率部分军队退走桐城，与外围的洪仁玕等会合。
就在这一天，鲍超、成大吉、多隆阿部和曾国荃部开始向集贤关发动大规模进攻。
曾国藩要求务必在陈玉成返回之前攻克集贤关，活捉刘玱琳；同时命令曾国荃包围菱湖的太平军，割断菱湖与集贤关刘玱琳部的联系。
刘玱琳是陈玉成手下的骁将，有勇有谋，手下的四千人更是陈玉成部的精华，号称“百战精锐”。陈玉成南征北战，战绩不俗，很大程度上都是依靠刘玱琳和这四千精锐。湘军上下谁人不识刘玱琳？谁人不怕刘玱琳？
曾国藩在书信中称他为“玱琳先生”、“玱翁”，并毫不掩饰地说“敬爱玱翁”，并以湘军中缺少这样的将才感到遗憾。
曾国藩下定决心，一定要利用这个千载难逢的时机，消灭刘玱琳部，下令绝不能放过一人，尤其不能放过刘玱琳。
鲍超、曾国荃、成大吉等人深知这一仗的重要性，通令全军，这场仗不仅要胜，而且要除恶务尽，不可使一人逃脱。
五月一日（6月8日）清晨，赤松岗一派肃穆。
刘玱琳严阵以待。湘军黑压压地聚集，马匹、大炮、辎重源源不断地运来，就等鲍超进攻的命令。
“轰！”湘军的炮击开始。随后，鲍、成集中一万精兵猛烈冲向赤松岗，无果。火气越发大的鲍超再用集团兵力反复向堡垒冲锋。
果然无愧为“百战精锐”。在刘玱琳的指挥下，这支四千人的队伍，或伏或战、或火器或肉搏，以一当十，毫不慌乱。
鲍超下令：利用人数的优势，反复冲击，不让刘玱琳有吃饭、休息的机会。鲍超在太湖一战里吃尽了陈玉成这种战法的苦头，要不是后来李续宜的援军赶到，他恐怕早被陈玉成拖死了。如今，鲍超依样画葫，把陈玉成的法子用在了刘玱琳身上。
果然，时间一久，太平军得不到喘息的机会，枪弹火药也一点点用尽，而鲍超大队人马仍不停地轮番攻击。这一天，鲍超和刘玱琳短兵相接，赤松岗的四个堡垒被鲍超攻下了三个，三千太平军英勇牺牲。
五月二日（6月9日），残酷的歼灭战还在继续。刘玱琳仍死死坚守着最后一个堡垒。因为弹药都已用完，刘玱琳带着八百人杀开一条血路突围而出，到了马踏石时被大水阻住了去路。刘玱琳一边派人抵挡赶来的“霆军”，一边寻找渡江的船只。等到刘玱琳登上船时，身边只剩下二百人。湘军炮船发现了他，一轮炮轰过来，刘玱琳和二百战士全被炸死。
刘玱琳阵亡，陈玉成等于被湘军砍掉了一只臂膀，军队的战斗力大大降低。与此同时，曾国荃全力攻击菱湖十八垒的太平军，各垒被逐一攻破，陈玉成在此留下的八千太平军全部牺牲。
刘玱琳部被消灭，曾国藩等人兴奋不已，认为赤松岗一战，胜过塔齐布攻下岳州、李续宾攻破九江。湘军、太平军之间的平衡被打破了。
陈玉成在桐城听说湘军包围了刘玱琳，立即反攻回救，但曾国藩已令多隆阿守住了陈玉成回援的路口。眼看着刘玱琳被湘军吃掉，陈玉成稍作休整，立即同洪仁玕、林绍璋、黄文金、杨辅清联合进攻挂车河多隆阿的阵地，希望突破湘军的包围圈救援安庆，但还是没能成功。
陈玉成决定绕道从湖北到蕲州折而下行，经宿松、石牌，绕了一个大圈进入集贤关。进是进来了，但是两个月已经过去。曾国荃利用这段时间，各个击破，逐一打破安庆城外的所有堡垒，把安庆围了个水泄不通。安庆城里粮草断绝，已经到了不攻自破的危急关头。
陈玉成又采取以前的战术，在集贤关筑起四十余座堡垒，与安庆城的守军遥遥呼应。他用小船向城里运送粮食，但都被湘军水师击沉。陈玉成想了各种办法运粮食，湘军想方设法把粮食拦下来，你送我截的战斗进行得十分激烈。
陈玉成感到，再不解围的话，安庆就要不战而破了。于是，陈玉成亲自站在阵前督军，从东西两个方向进攻，每位太平军战士都背了一大捆草，像蚂蚁一样拥向长壕，把草掷入壕中，填满了蜂拥冲过。
曾国荃指挥湘军在第二道壕中开枪射击，用排炮轰击从第一道壕中冲过的太平军，前面的被打死，后面的又冲上来，第一道战壕很快就被太平军将士的尸体填满了。战斗从七月二十日进行到七月二十五日（8月25日至8月30日），湘军在第二道战壕中打了六天的靶子，仅在长壕内外就牺牲万余名太平军，死尸堆成了山。湘军光火药就用去十七万斤，枪子用去五十万斤，可见战斗进行得何等激烈！
太平军始终没能突进曾国荃的内壕，城内守军几番冲击也没能突围。
八月一日（9月5日），曾国荃部轰倒安庆北门城墙，湘军如潮水般涌入城内，吴定彩率队堵击，首先牺牲。城内太平军已断粮好几天，很多人连刀枪都举不起来，稍有抵抗当即被杀，绝大部分都投降了。
曾国荃等认为这些太平军冥顽不化，留着必是祸害，还不如都杀了干净。但是，这么多人该如何杀呢？朱红章出了个主意：让俘虏排好队，十个人一组，分给各营，半天就杀完了。
安庆一战，先后被杀的太平军达三四万人，被杀的百姓亦不在少数。湘军认为太平军在城破后都穿上了百姓的衣服，于是凡可疑的都杀掉，太平军的眷属男的杀净，女的悉数被掠，金银衣物被抢掠一空。
这让曾国荃心里有些不安，写信给曾国藩。曾国藩说：“现在已经带兵了，志向就是杀贼，多杀贼人有什么后悔的呢？那些贼人，人人得而诛之，你不要有心理负担。”曾国荃由此开始肆无忌惮地杀戮、抢掠被攻下来的城镇。
陈玉成见安庆失陷，失魂落魄地回走桐城。多隆阿乘胜追杀，陈玉成溃不成军，死的死，逃的逃，太平天国的一支主力部队就此覆灭。
攻陷安庆以后，咸丰帝得报，赏曾国藩太子少保衔，赏曾国荃布政使衔。曾国藩气势大振，湘军水陆配合，趁势攻占了安徽大部地区，并迅速向东推进，直指天京城。
