围魏救赵之计失败，四月末，陈玉成率3万人经宿松、石牌于4月27日进抵安庆集贤关，逼近围城的曾国荃部湘军。安庆形势随即发生变化，围城之湘军反而被包围，太平军构成了内外夹攻之势。
陈玉成旋又檄调守天长、六合一带的吴定彩、黄金爱、朱兴隆等部西来助战。4月29日，陈玉成与安庆守将叶芸来分别扎营于菱湖南北两岸，连夜筑垒18座，并以小艇沟通往来。与此同时，洪秀全诏干王洪仁玕、章王林绍璋自天京率兵直接救援安庆：定南主将黄文金也率部自芜湖西援。5月1日，洪仁玕、林绍璋等会合活动于桐城、庐江一带的吴如孝部，共2万余人，随后扎营新安渡、横山铺、练潭一带，连营30余里，拟由马踏石过河，与陈玉成军会师，共解安庆城围。安庆之局势，湘军不容乐观。
面对太平军的强大攻势，曾国落惊呼：“所有安庆官军曾国荃等各营，城贼扑之于前，援贼扑之于后，势殊危急。”于是他决定全力以赴，消灭陈玉成兵团，并向朝廷上疏声称：“贼以全力救安庆，我亦以全力争安庆。必须攻破狗酋，迅克安庆，大局乃有挽回之日，金陵乃有恢复之望。”
不久之后，为就近指挥安庆战争，曾国藩决计退出祁门，移营东流。为此，他留下张运兰全军驻守休宁，朱品隆防守祁门，江工贵、唐义训、沈宝成等分守各处岭隘，以牵制皖南各处太平军。5月10日，湘军大营移扎东流。同日，鲍超所部6000人也自景德镇奉命开往皖北，并于5月15日进抵石牌。胡林翼又调派总兵成大吉5000人赴援安庆。
至此，安庆的战事更趋复杂、剧烈，双方军队互相围攻，内线外线，犬牙交错，重重叠叠，一场决战的帷幕就此揭开。
这一场决战，关系到东南半壁江山的归属。成败，在此一举。曾国藩几乎调动了能够调动的所有力量，而曾纪泽的常胜军作为一支极具战斗力的新生力量，自然也奉命东进，赶往集贤关一带与数路湘军会合。
曾纪泽的常胜军在经过了一个多月的休整和补充之后，弹药充足，粮草丰备，将士们都跃跃欲试，想要参加安庆之战，以建功勋，他们在得知了调令之后，无不欢欣鼓舞。于是曾纪泽率领着他的三营一千七百余人，连同枪炮弹药粮草，在黄州码头登船，搭乘水师提督彭玉麟的水师顺流而下，前往安庆。
彭玉麟作为“晚清中兴”四大名臣之一，与曾国藩胡林翼等人齐名，可谓是鼎鼎大名，曾纪泽有幸与之短暂的相处，从他那里学到了不少的东西。此番东进，很幸运的又能够与彭玉麟顺路，不过，这位四大名臣之一的人物却与胡林翼大有不同。
船未起锚，常胜军的将士陆陆续续的搬运枪炮上船，曾纪泽在岸边督促着属下们不要磨蹭，人都上得差不多了，却一直不见水师提督彭玉麟的影子。
曾纪泽颇有不悦，按官衔而论，他的职位只是道员，比不得提督之职，但湘军上下不会忽视，他是两江总督、湘军领袖曾大帅的大公子这一身份，故而他人到各处，即使是那些比他官品高很多，如胡林翼这等与其父同辈官，依然要对他礼敬三分。而这彭玉麟此时不过曾国藩直属一员水师将领，大公子在此却不来见一面，实在是有点不懂礼数。
曾纪泽问水勇彭提督人在何处，那水勇答道：“提督大人前去抓人了。”
“抓人？”曾纪泽一头雾水，当此安庆之战的关键时刻，他这个水师提督不好好的管治水师，却跑去抓什么人，这多少有些不分轻重之嫌。
曾纪泽正满心困惑时，码头一队人马急急奔来，水勇指着当前一骑叫道：“曾大人快看，是咱们提督大人回来了。”
曾纪泽翘首望去，却见那彭玉麟面色黝黑，略显宽松的战袍下包裹的是瘦削的身躯，眉目间透露的则是几分慑人寒气，光从这面向来看，便让人畏惧三分。只见他后面还跟着数骑，其中有一人被全身紧绑，想来就是那被抓之人。
曾纪泽不认识彭玉麟，但这彭玉麟却与他有过数面之缘，他大老过便瞧见了曾纪泽，遂是催马而来，滚鞍下马，拱手道：“见过大公子，下官去办了点事，让大公子久等了。”
“哪里，我的人也只是刚刚上船，彭大人来的正好。”曾纪泽看了一眼那个灰头土脸的被绑着的家伙，问道：“这人是谁？”
彭玉麟吩咐水勇将那人拉下马，拖到码头边上船上的将士们听到动静，都挤到船头来看热闹。彭玉麟向他道：“大公子且稍等片刻，等下官法办了这个狗东西就开船。”
那人一听，哇哇就叫了起来：“彭玉麟，你这个疯子，你凭什么就要杀老子！”
彭玉麟雷霆大怒，指着他的鼻子斥道：“谭祖纶，你诱骗朋友之妻，丑事败露之后，还胆敢杀人灭口，这等伤天害理之事你也干的出来，我今天就要当着众将士的面砍下你的狗头，以警效尤。”
那谭祖纶吓了一跳，但仍是色厉内荏，吼道：“你只不过是个水师提督而已，又不是咱们湖北衙门的人，就算老子干了那些事，也得由胡大人和官文大人审理，你又算哪颗葱，凭什么要砍老子。”
曾纪泽听了两句就明白是什么事，他虽然憎恶那谭祖纶的所作所为，但也不太赞成彭玉麟的作法，便说道：“彭大人，容我说一句公道话，论权限，这人确实应该交给湖北衙门发落。何况现在正是该精诚团结，共同剿贼的时候，这么关键的时候擅杀大将，似乎有点不太妥当。”
彭玉麟一点不卖他面子，手一挥，无可质疑的说道：“这件事大公子就不必过问了，下官自会向曾公交待。这个狗贼做了这些禽兽不如的事，枉为大清之官，我才不管他归谁管，今天要我彭玉麟碰上了，他就别想有活路。”
曾纪泽早听闻说彭玉麟铁面无私，嫉恶如仇，今日一见果然是名不虚传。时下吏制腐败，大清上下到处是贪污腐败，鱼肉百姓的官吏，像彭玉麟这样铁血正直的官实在是少见，曾纪泽虽然对他的做事态度不太赞同，但对他这份刚直无私的性情却是十分欣赏，当下也就不好再吱声。
那姓谭的这回是彻底被震住了，吓得连连磕头叫饶。彭玉麟毫不留情，号令一下，刀斧手手起刀头，立时切瓜似的砍下了那颗斗大的脑袋。
手起刀落，人头落地，这干净利落的血腥场面，船上的将士们瞧得是清清楚楚，众人不禁为之一抖。
彭玉麟提着那颗血淋淋的人头，扬起来让所有人瞧清楚，高声道：“你们都给我看清楚了，哪一个敢做违法乱纪之事，这就是他的下场。”