与骆公会摺奏参长沙协副将清德，请旨革职，以儆疲玩而肃军政。又专摺奏保署抚标中军参将塔齐布、千总诸殿元，恳恩破格超擢，并称二人日后有临阵退缩之事，即将臣一并治罪。附片特参副将清德性耽安逸，不理营务等款，请交部从重治罪。江忠淑募新宁勇千人，朱孙诒募湘乡勇千二百人，均抵长沙。公檄江忠淑由浏阳赴江西，朱孙诒由醴陵赴江西，夏廷樾、郭嵩焘、罗泽南以兵勇千四百人，由醴陵继进。合计援江兵勇三千六百人，是为湘勇出境剿贼之始。二十二日，公与骆公会奏拨派兵勇赴江西援剿一摺。湖南调各路兵勇防守省城者数千人，塔齐布逐日抽调操阅，暑雨不辍，公亟奖其勤。提督鲍起豹至省城，乃宣言盛夏操兵之非，由是营伍咸怨塔公以及于公，时复与湘勇争讧。公所奏参之副将清德，乃依附鲍起豹，而与塔齐布为仇者。公前疏入，二十九日奉到上谕：“塔齐布着赏给副将衔，诸殿元以守备补用，先换顶带，以示奖励。”钦此。又奉上谕：“曾国藩奏请将性耽安逸、不理营务之副将革职治罪一摺，清德著革职拿问，交张亮基、骆秉章讯明定拟具奏”等因。钦此。由是兵伍益怨公矣。
七月，公以省城筹防之事粗备，援江之师已成行，遂回籍省亲。家居数日，复出至省垣。时新宁勇援江者，行抵瑞州，遇警而溃，至义宁复行招集以进。湘勇援江者，以七月十九日抵南昌，二十四日与贼战，小挫，阵亡营官谢邦翰、易良干、罗信东、罗镇南四人，湘勇死者八十馀人。罗公泽南以诸生讲学，湘人多从受业者，是役阵亡各员，皆罗公弟子也。贼攻南昌，屡以地道轰城，官军堵之。
江公忠源复以书致公，谓长江上下，任贼船游弈往来，我兵无敢过问者。今日之急，唯当先办船炮，击水上之贼。时郭公嵩焘在江公幕中，力主水师之议。文宗寄谕各督抚，亦屡及之。公商之巡抚骆公，奏请敕调广东琼州红单船放出大洋，由崇明入江口，以击贼于下游；调广东内江快蟹拖罟船，由梧州府江溯漓水，过斗门，浮湘而下，出大江，以收上下夹击之效。长江水师之议，自此始。湖南营兵与湘勇断断不和。七月十三日，提标兵与湘勇械斗，公但将湘勇棍责。
八月初四日，永顺协兵与辰勇械斗。公咨提督请按治军法，未行也。初六夜，永顺协兵掌号执仗至参将署，欲害塔齐布公。塔公匿菜圃草中以免。兵众毁其房室。旋出至公所馆抚署侧射圃中，大哗，骆公步出谕饬之，乃解。时有劝公据实参奏者。公曰：“为臣子者，不能为国家弭乱，反以琐事上渎君父之听，于心未安也。”二月中，曾经奏请移驻衡、宝二郡，就近剿办土匪。遂定计移驻衡州以避之。因与骆公商调塔齐布领宝勇、辰勇八百人，益以抚标兵，移驻醴陵；调邹寿璋领湘勇驻浏阳，以防江西之贼；调训导储玫躬所领湘勇一营，往郴州以防土匪；公弟国葆率所领湘勇上驻衡州。八月十三日，公具摺奏言，湖南衡、永、郴、桂各属为匪徒聚集之薮，数月以来，聚众为乱，巨案叠出，臣即日移驻衡州，就近调遣。附片奏调委员厉云官等随往差遣。十四日，公由长沙起行，绕道湘乡，抵家省亲，以二十七日抵衡州府。先是，南路土匪屡起，次第剿平。江西吉安府属土匪大起，太和、安福二县失守，江公忠源派罗泽南以湘勇往剿，大破之，擒斩数千，克复两城。馀匪溃窜湖南界，茶陵、安仁皆不守。公乃调塔齐布以兵勇往剿，平之。王公鑫驻营郴州，闻江西援军营官阵亡之信，欲回籍募勇，赴江西剿贼，以抒公愤而复私仇。上书于公，词气慷慨。公嘉其义，札令来衡州面商以讨贼之事。公言今日大弊，在于兵勇不和，败不相救。而其不和之故，由于征调之时，彼处数百，此处数十，东抽西拨，卒与卒不相习，将与将不相知。地势乖隔，劳逸不均，彼营出队，而此营袖手旁观，或哆口而笑，欲以平贼，安可得哉！
今欲扫除更张，非万众一心不可。拟再募勇数千，与援江各营合成一军，交江公忠源统之以平贼。八月二十二日，江西省城解严。贼窜陷九江府湖口县，仍陷安庆省城，皆踞之。复分股上窜湖北。张公亮基以兵五千人扼守田家镇，贼至则大溃。江公忠源间道驰援，战不利，北屯广济。贼因上犯鄂渚。张公亮基奉旨调任山东巡抚，以吴文为湖广总督。吴公者，公会试座师也。九月初，由黔赴鄂，道出长沙，以书招公至省垣相见。公以军事方殷，未遑离次。吴公星驰赴任。时贼已陷黄州、汉阳，北扰德安，南及兴国、湖南，岳州戒严。骆公秉章驰书与公谋防堵。公以茶陵、安仁既平，札调塔齐布等军速赴长沙，并调援江之湘勇同援。
二十七日，奉到上谕：“长江上游，武昌最为扼要，若稍有疏虞，则全楚震动。
著骆秉章、曾国藩选派兵勇，并酌拨炮船，派委得力镇将驰赴下游，与吴文等会合剿办，力遏贼冲，毋稍延误。“钦此。
十月初三日，奉上谕：“曾国藩团练乡勇，甚为得力，剿平土匪，业经著有成效。著酌带练勇，驰赴湖北。所需军饷等项，著骆秉章筹拨供支。两湖唇齿相依，自应不分畛域，一体统筹也。”钦此。王公鑫募湘勇，初议欲为援江