3月4日辰时3刻，扬威军士兵出寨列阵。炮兵在营寨里首先开火，轰击北门城墙，连续炮击了近两刻钟（半小时）。
猛烈的炮火让北门一时间摇摇欲坠。楚军士兵士兵都没见过这么猛烈的攻击，一个个面色发青。乡勇和青壮就更不用说了，许多都吓尿了。
左宗棠也是一脸铁青。这扬威军的炮火似乎比英法军队的还要厉害，再继续轰下去，士气就崩溃了。
自己现在就算想撤退也难，扬威军有数千骑兵枕戈待旦，万难逃脱。
炮火没停，扬威军步兵也开始抵近射击。任何敢在城头露头的人都将受到无情打击。随后组织爆破组，用集束手榴弹炸开城门。
左宗棠根本没有料到还有这种攻击方式，所以没有封堵城门，被扬威军轻易破门而入。
青壮、乡勇随之溃散，接着湖湘籍新卒也纷纷逃亡。楚军将士只得簇拥着左宗棠从西门出逃，向云和、龙泉撤退。
扬威军骑兵一路追杀，楚军死伤惨重。左宗棠最后仅带千余楚军成功逃脱。
扬威军占领处州。
就在扬威军在浙南节节胜利之时，太平天国西部最后的防线庐州战火重起。
陈玉成从桐城撤回庐州时，加上原来的留守部队，陈玉成身边尚有5万多人。而且，此时陈玉成麾下的小左队在湖北一带，还有3万大军。英王只要处理得当，完全有很多种方法应付当前的危局。
但是，从战场上一路顺风顺水成长起来的英王陈玉成，没有勇气面对安庆的失败。他一心只想挽回失败，重新夺回皖北。
同时，他还面临一个非常严峻的问题。一年多的安庆大战，使得英殿军粮草不多了，庐州合肥城内没有足够的粮食支撑大军作战。
唯一能提供粮食的是杭州的扬威军，但现在战王和英王两人已经形同陌路，吴天佑不可能给他支援。
可庐州是天京西部的重要屏障，也是陈玉成眼下仅剩的重要栖身之地，不可放弃。于是，为了减轻粮食供给压力，同时也为了调动清军分兵，陈玉成在兵力不足的情况下，再次分兵。
派扶王陈德才（此陈德才为陈玉成叔父）、启王梁成富、瑞王兰成春、遵王赖文光等远赴河南、陕西方向招兵筹粮，派顾王携本部及左五军前后中三营驻守东南面的巢县，确保与天京的通道安全。
自己则率刘玱琳的小右队及左五军左右营等1万多人驻守府治合肥。
而天王此时送上一道催命符：陈玉成因调度无方导致安庆失败，革除英王王爵。着留任原位戴罪立功。
这让陈玉成难堪之极，进退失措。形成一个没有王爵的最高指挥官，指挥一群王在作战的可笑场面。也让麾下各王开始各自打算，陈玉成指挥调动各部的能力大打折扣。
反观湘军，继多隆阿相继攻占了桐城、庐江、舒城后。休整过后的湘军，在多隆阿的率领下，10月，湘军又攻克了无为县。12月，庐州以北的定远县也被清军袁甲三部攻克。
而湘军水师此时也沿江而下，相继攻占了池州府的贵池、铜陵等地。
1862年2月，多隆阿开始率军向庐州发起进攻。他采取十分慎重的方式，步步进逼，逐步缩小包围圈。
到了3月份，清军靠近庐州城下。开始进攻城外的太平军营垒。李续宜、袁甲三等部队也逐步逼近，庐州的形势已经变得十分危急了。
面对清军来势汹汹的进攻，陈玉成没有就近向扬威军和忠殿军求援，而是急忙写信，命令捻军张洛行，以及扶王陈得才等人率军回援。
可惜，陈玉成的求援信都被清军截获，而张洛行、陈得才等人远在千里之外作战，并不知晓陈玉成在庐州被困的消息，也并没有接到陈玉成命令，庐州依然是孤立无援。
陈玉成无奈，只好派人到天京向着洪秀全求救。
可惜，洪秀全天京的防卫力量本身就不足，根本没有能力抽调兵力救援。而能够抽调的镇妖军在安庆被打废，正在洪仁玕的努力下重建，还没有形成战斗力。
于是，洪秀全派人找忠王和英王协商救援的事。
手握数十万大军的李秀成表面答应了发兵要求，却迟迟没有派兵救援。
战王吴天佑就更不用说了，此时正领兵在浙南温州、处州一带和左宗棠的楚军激战，根本不在杭州。而幕僚府、参谋部等因为英王上次在马踏石的背信弃义，如今还在耿耿于怀。所以，传旨官根本就没见到吴天佑。
不是说吴天佑不知道这件事。要救陈玉成，吴天佑是最有能力的人，没有之一。因为他来自后世，准确知道陈玉成死于苗沛霖之手。
但是，无论是公心还是私心，吴天佑都不愿去救英王。
从战略上讲，此时湘军水师已经基本控制了长江水道，扬威军过江都成问题，何况后续的粮草弹药补给，根本就保证不了。这仗根本就打不赢。
从个人感情上，吴天佑对英王彻底绝望，不想参与这件事。
至此，陈玉成呼天天不应、叫地地不灵，坐困庐州，已经濒临绝境了。
3月下旬，多隆阿见进攻受阻，便派人试图挖开淝河的河堤，水淹庐州城。陈玉成得知这一消息，派兵数千人出击，击退了清军，保住了河堤。
多隆阿无奈，只能命令部队继续强攻。
4月初，清军逐步逼近庐州的南门、西门，于是开始在两门外修筑炮台，安置火炮。随后，清军的火炮就开始对庐州狂轰滥炸了。
5月8日（四月初十），清军逼近了东门处的城墙。城外的太平军营垒尽失，清军开始筹备攻城了。这个时候，庐州已经无论如何都坚守不下去了。陈玉成只好被迫突围。
5月12日（四月十四），陈玉成率三千小右队精锐从北门突出，弃城而走，直奔寿州（今安徽寿县）而去，目标是投奔苗沛霖。
陈玉成突出重围，来到寿州时，身边仅剩2千刘玱琳的小右队。
陈玉成留下刘玱琳在城外扎营，自己带百名卫兵进城。
可令陈玉成没想到的是，苗沛霖此时已经投降了清廷。陈玉成刚进城，城门吊桥就被拉起。陈玉成束手就擒。
刘玱琳见突生巨变，立即命令全队拼死强攻城门。奈何寿州城池坚固，兵力众多。小右队强攻之下死伤惨重。
不久，寿州打开城门，苗家军出城迎战，企图吃下整个小右队。
刘玱琳见大势已去，带领剩余的800士卒，往滁州方向撤退。
随后，苗沛霖把陈玉成解送颖州，交给钦差大臣胜保。胜保请示清廷后，按圣旨要求把陈玉成押解京师处斩。后来清廷担心途中生变，命令就地处决。
因此陈玉成的槛车行至河南延津县时接到清廷命令，在延津西较场被凌迟处死，首级传示楚、皖各营，年仅二十六岁。