南则踞兴国州，北则屯聚蕲州、广济，仍以船为巢穴。公与杨公会商进剿，分为三路：以塔齐布公统率湖南兵勇，进剿兴国、大治为南路，派提督桂明等领鄂省兵勇进剿蕲州、广济等处为北路，公自督水军浮江而下。
九月初七日，驰奏统筹三路进兵分别水陆先后直捣下游一摺。附片奏请饬谕陕西抚臣筹银二十四万两，解赴行营。又片奏参都司成名标监造船工，浮开款项，请革职查办。是日，又具摺汇保出力员弁兵勇第二单。奉上谕：“曾国藩等奏统筹三路进兵直捣下游一摺。览奏布置各情，甚合机宜。以长江大局而论，楚北上游既已渐次肃清，则各路官军乘胜东趋，自成破竹之势。但兵机移步换形，贼情亦诡诈百出，总须出奇应变，步步为营，以免孤军深入，方操胜算。其桂明一军，较之楚南兵勇，强弱是否相当？倘彼强此弱，南岸被剿紧急，该逆必至伺隙北渡，该督等曾否虑及？此次东下之师，关系大局转机，务期成算在胸，相机筹办，能制贼而不为贼制，庶可次第廓清也！所请饬拨陕西饷银，已谕知王庆云照数筹拨，源源接济矣。”钦此。十三日，驰摺恭谢天恩，并奏陈：奉命署理湖北巡抚，于公事毫无所益，于臣心万难自安。臣统率水师，即日启行，于鄂垣善后事宜不能兼顾。且母丧未除，遽就官职，得罪名教，何以自立？是以不敢接受关防，仍由督臣收存。公前奉上谕“曾国藩虽系署任巡抚，而剿贼之事重于地方”等因。是摺未奏到时，奉上谕：“曾国藩着赏给兵部侍郎衔，办理军务，毋庸署理湖北巡抚。陶恩培著补授湖北巡抚。未到任以前，著杨霈兼署。”钦此。是摺奏到，奉朱批：“朕料汝必辞，又念及整师东下，署抚空有其名，故已降旨，令汝毋庸署湖北巡抚，赏给兵部侍郎衔。汝此奏虽不尽属固执，然官衔竟不书署抚，好名之过尚小，违旨之罪甚大，著严行申饬！”钦此。又奉上谕：“曾国藩既无地方之责，即可专力进剿。但必须统筹全局，毋令逆匪南北纷窜，方为妥善。并随时知照江、皖各抚及托明阿、向荣等四路兜击，以期直捣金陵。固不可迁延观望，坐失事机；亦不可锐进贪功，致有贻误。谅曾国藩等必能兼权熟计，迅奏肤功也！”
钦此。水师杨公载福领战船先行，公与李孟群等继进。南路陆营以十三日拔营进剿，北路陆军魁玉、杨昌泗等以十七日拔营。十九日，水师破贼于蕲州城下。二十一日，塔齐布公克复大冶县城，罗公泽南等克复兴国州城。公舟次黄州，按行前总督吴文节公堵城营垒，于其殉难之处，为文以祭之，词甚哀厉。（祭文稿今佚。）二十七日，公驻舟道士γ，驰奏陆军克复兴国、大冶，水师在蕲州胜仗一摺。附片奏探明贼踪，于田家镇坚垒抗拒，横江铁锁二道，拟先攻半壁山，夺其要隘。又具摺奏称：臣自入鄂城以来，采访舆论，佥谓武昌再陷之由，实因崇纶、台涌办理不善。督臣吴文忠勤忧国，殉难甚烈，官民至今思之。即于前抚臣青麟，亦尚多哀怜之语，无怨憾之词。前任督抚优劣情形，以及年馀之成败始未，关系东南大局，不敢不据实缕陈。又奏遵保出力员弁兵勇第三次汇单请奖一摺。
奉上谕“蕲州贼势尚众，水师既经攻剿得手，何以桂明等陆路一军未能赶到？曾国藩经朕畀以剿贼重任，事权不可不专，自桂明以下文武各员，均归节制，倘有不遵调遣，或迁延畏葸贻误事机者，即著该侍郎专衔参奏，以肃戎行”等因。钦此。是月奉旨：“胡林翼调湖北按察使，杨载福补湖南常德协副将，罗泽南授浙江宁绍台道，均督勇剿贼。”钦此。二十九日，蕲州贼船上犯，杨公载福、彭公玉麟等纵火尽焚之。
十月初一日，罗公泽南陆军破贼于半壁山，夺其营栅。初四日，罗公泽南等大破贼于半壁山，歼贼逾万人。初五日，贼至，复击破之。初七日，驰奏陆军踏破半壁山贼垒水师续获胜仗一摺，阵亡员弁何如海、石炽然、徐国本请恤。附片专奏营官白人虎阵亡请恤。又片奏查明前湖北道员刘若殉难情形，请饬部议恤。
又片奏军中子药概系湖南支应，今全军将出楚境，距湘省千数百里，请旨饬江西抚臣遴委干员，筹款开局，监制火药，铸造铁子铅弹，解营接济。是日，具摺谢恩赏兵部侍郎衔。附片陈明前摺未署署湖北巡抚新衔，奉批谕申饬，蒙恩宽宥，谨奏申谢。又代奏浙江宁绍台道罗泽南呈谢天恩，仍请留营剿办贼匪。初八日，水师攻贼船于蕲州，绕出贼前。初十日，贼船退至田家镇南岸，铁锁已为陆营湘勇斫断。杨公载福、彭公玉麟督水军于十三日攻断江中铁链，舟师飞桨而下，至邬穴纵火焚贼舟。适东南风大作，贼船四千五百馀号皆尽，伏尸万数。田家镇北岸之贼大溃，毁营而遁。十四日，驰奏南路陆军大捷、毙贼万馀、斫断江岸铁锁、水师屡获胜仗一摺。随摺奏保李续宾、彭三元、普承尧三员，阵亡千总萧吉祥请恤。附片奏陈贼踪遍扰，驿邮多梗，侦探难遣，文报难通，江、皖各营不克随时知照，请旨饬军械处，将江南、北大营现在情形及红单船现泊何处，随时示知行营，期通消息。奉朱批：“获此大胜，皆因汝等和衷共济，调度有方，故能将士用命，以少击众。朕披览之馀，感慰莫能言喻