夺取九江的计划受挫，曾国藩退守南昌。除留塔齐布继续围困九江外，罗泽南部奉调充作游击之师南援赣中，李续宾随队与太平军作战，连续攻占弋阳。广信、德兴、义宁等府县，因功升为记名道员。

1856年，李续宾配合正在武昌外围作战的胡林翼所部攻取武昌。那一年，李续宾基本上是在武昌城下渡过的，率部与湖北巡抚胡林翼、湖北提督杨岳斌等与太平军相持于武昌城外。太平天国发生天京内讧，翼五石达开从武昌前线赶回天京。李续宾乘势攻占了鲁家巷太平军营垒13座，进占武昌。接著，他率军乘势东下，在杨载福水师配合下，又攻下了武昌县（今鄂州市），大冶、兴国，再次因功升为记名按察使。

1857年1月初，李续宾率所部万人顺江而下进入江西，再攻九江城。九江自1853年9月被太平军占领后，一直在太平军手中。林启容在武昌将陷之时，就督军日夜缮守具，屯米粮，浚深沟，设炮台，以防湘军来犯。从1月6日开始，李续宾陆师与扬载福水师连战数昼夜，攻城不下，遂决定改变攻城战术，3月5日，他督湘军自宫牌夹起到东边白水湖尾修筑长壕，全长30多里，共6道，每道深2丈，宽3丈5尺，于6月筑成，三面合围九江。同时，他决定先扫清九江外围太平军据点，孤立九江。

1857年9月，李续宾首先进攻九江北面的小池口，由水师炮船昼夜轰击，城内房屋全被击毁。10月，风雨交加，李续宾令陆师用稻草，沙囊填满壕沟，士兵躲在稻草沙囊之后，直扑城下；然后向城内施放火箭，乘烟焰迷漫之时攻陷小池口。后来，李续宾率部进攻湖口，湘军缘梯攻城，用火箭击中太平军的火药库，登时瓦石飞空，墙垒破裂；守将黄文金见势难再守，开门撤走。梅家洲守军见湖口已陷，也弃垒而走。被分割于鄱阳湖内达三年之久的湘军水师与长江内水师会合。

小池口、湖口、梅家洲被攻占后，九江便失去了依托，陆上三面被围，临江一面也被湘军水师控制，完全成为孤城。这年底，李续宾因军功实授浙江布政使。

李续宾抓紧围攻九江，百计并施。但林启容毫无惧色，率军坚守城中，使湘军顿兵城下一咩多仍不能得逞。

直到1858年3月20日，李续宾再次攻打九江城。此时九江城内储备的粮食已吃光，太平军靠种麦自给，仍顽强抗击。5月8日，湘军挖地道轰塌东门、南门城墙，登城士兵均被太平军抛掷的大桶火药炸死炸伤，缺口重又堵住。此战，湘军死伤无数，胡林翼向朝廷奏报说，湘军伤亡士卒之惨，使将士莫不欷欧饮泣。

5月19日，湘军用地道轰塌九江东南城墙百余丈，湘军士兵前者伤，后者继进，冲上城头，林启容率部下浴血巷战，1.7万将士全部英勇牺牲，其壮烈为太平天国战史中所仅见。

李续宾经过苦战夺得九江，其战略意义不言而喻。战后，因功赏巡抚衔，名扬天下。

李续宾屡战屡胜，进攻合肥，他有点心存侥幸。因为三河镇位于界河南岸，东濒巢湖，是庐州西南的重要屏障。该镇原无城垣，太平军占领后，新筑了城墙，外添砖垒九座，凭河设险，广屯米粮军火，接济天京，因而在军事上、经济上都居重要地位。当时太平军的守将是吴定规。

李续宾率部一月之内，连下四城，进军迅猛，但部队伤亡较重。仅舒城一战，湘军阵亡过千，带伤约五百人以外。

李续宾也感到兵力不足，他对此心知肚明，在进军三河镇时向曾国藩报告说：“所部八千人因克复潜山，太湖、桐城及舒城留兵防守，分去三千人。数月以来，时常苦战未尝得一日之休止。伤损精锐，疮痍满目，现已不满五千人，皆系疲弱之卒。三河一带悍贼虽多，自揣犹足以制。若遇大股援贼，兵力亦恐难支。”

尽管如此，李续宾仍抱侥幸心理，指望能在太平军援军到达之前，迅速攻下三河镇。

李续宾和曾国华率湘军进攻三河镇外太平军营垒，近者被其火药所焚，远者遭其枪炮所轰，伤亡很大，却难以近其城垒。

进还是退？猛将李续宾一时难以抉择。