不过，曾国藩说自己阅世已深，素来以把持权柄和笼络人心为羞耻，还能够虚心地反省自己，检点行为。就拿漕折一事来说，他曾写信给沈葆桢商量过一次，又发公文商量过一次。关于洋税一事，他接到沈葆桢严辞质问的公文，曾经以密函委婉地答复。可是沈葆桢固执己见，不顾情理，实在令他难以忍受，他也不再能够隐忍不说了。
于是，曾国藩请求清廷下令，江西的厘金仍然归他这里经收，以便湘军能够完成对金陵的攻取。等到攻克金陵之后，便可以分成接济江西。在攻克金陵之前，他会照旧从江西的厘金中拨给彭玉麟、刘于浔和孙昌国三支部队所需的军饷五万多两，此外还会给江忠义和席宝田两支部队分拨军饷。这种格局不能骤然改变，才不至于动摇军心，导致功亏一篑。
曾国藩的奏疏导致沈葆桢上疏辞职，清廷下诏调解矛盾。最后达成协议：江西把一半厘金拨给曾国藩的大营，其余供给江西本省的军饷。清廷另提轮船经费银五十万两供给围攻金陵的部队。
287
陕西巡抚刘蓉在4月份终于进入省城，探视多隆阿的伤疾。多隆阿刚刚脸朝外卧下，听说巡抚来到，勉强支撑着翻转身子，以面向内，不看刘蓉，也不言语。
这时回民起义军从甘肃回到陕西，抵达陇州的神峪河，遭到陶茂林部队的打击。雷正绾部在平凉的四十里铺获得一次大胜，斩杀杨自明所部起义军几千人。
曾国荃在4月的最后一天下令攻击天京的月围。所谓月围，就是太平军在城墙之外修筑的一道矮墙，作用是对付湘军挖掘的地道。
天京城周边的长度有一百里，曾国荃命令部队每天开凿隧道，一条通向南门，朝阳门至钟阜门有三十三条。军士们举着火把钻入隧道，如果崖崩堵塞，便会葬身于其中。
太平军修筑月围，挖掘地道，与湘军对抗。太平军遥望湘军驻扎的先锋营垒，知道那下面一定有地道，便估测出地道的方位，从城内挖掘一条直道通到城外，然后分头横挖暗濠，往往能将湘军的地道挖穿，废除地道的作用。
湘军开挖地道的处所，不可避免有灯火，烟气腾腾，草色萎黄，太平军从城上看见了，便从城内对着挖过去，往往也能破坏地道。太平军时常往地道中灌入毒烟和滚烫的开水，毒死烫死大批湘军军士。
不久，曾国荃下令，引爆神策门的地道，月城被炸为平地，而没有损坏内城。湘军企图登城，太平军把几十桶火药一排排扔下去，使湘军伤亡三百多人，不能入城。
湘军总共开挖地道三十多处，都失败了。湘军焚烧太平军的火药，炸死大批太平军，湘军也伤亡三千人。
就在天京岌岌可危的时候，天王洪秀全病逝。他的死，对太平天国犹如雪上加霜。李秀成等人拥戴幼主洪天贵福登基，以安人心。
曾国荃趁着太平天国发生剧变，一面加强进攻，一面利诱太平军将士叛变。天国列王傅振纲打算献城投降，向湘军透露了他的意思。据说李秀成也有动摇的迹象。后来，又有两名太平军将领叛投到湘军黄少营中，密约通济门守将商议投降。
湘军与太平军叛将往来接洽，必须经过李金洲的部队，所以他也知道了这件事。他发现，每当黄少的营房挂出五色旗，就是通济门的守将过来商谈投降了。双方议定，立刻把一百名湘军拉到城墙上，打开通济门的土塞，接纳湘军入城。
黄少向曾国荃要求实施这个计划，夜里派一百人登城。曾国荃命令李金洲派几十人修通上方桥断裂处，让士兵通过。李金洲见城上的太平军不闻不问，知道事情可靠，便想争功，把一半部队调去控制桥头，不许黄少的部队通过，另一半部队前进到城下。城内接应的叛徒放下绳索，十几名湘军攀了上去，忽然一名士兵放枪，于是湘军受惊而溃逃。
李金洲自己贪功失败，却向曾国荃诬陷黄少，说他观望不进，又说廖某其实是间谍。曾国荃听了大怒，便杀掉了这两个人。 电子书 分享网站
1864年，同治三年（12）
接着，又有太平军来约内应投降，还有天国松王陈得风与东门外的萧孚泗联络，慰王朱兆英也找到曾国荃洽降。陈得风事情败露，被信王洪仁发锁拿，李秀成花了一千八百多两银子才解脱了他的罪名。
李秀成的妻舅宋永祺向曾国荃约降，并劝李秀成一起行动。宋永祺和陈得风谈起这件事，陈得风写信询问李秀成，被刑部官员偷看到了，李秀成又花银子为他赎罪。从此天国朝中时时有人监视李秀成，提防他背叛天国。
288
湘淮军5月份加紧攻打常州。李鸿章命令部队傍靠运河修筑长墙，铺设浮桥，务求必克。
李鸿章见老天降雨不断，于5月9日向关帝爷祷告，但求天晴。第二天雨水时下时歇。李鸿章便令刘铭传攻打北门，戈登的炮队轰击南门，由郭松林和杨鼎勋的部队应援。又令刘士奇和王永胜的部队攻打东南角，由张树声部应援。
5月11日，天气完全放晴，南风大作。湘淮军水师和陆师一齐开炮，炮声如雷，烟火吞噬城头，原来已被轰破的城墙又垮下几十丈。太平军用人来堵塞缺口，炸炮轰来，砖石四溅，器械纷飞，旗帜飘到天上。但是太平军前仆后继，堵缺的部队刚刚倒下，另一批活生生的人又填补进来，阵线始终没有后移。
李鸿章督促部队登城，郭松林、王永胜和刘士奇登上城头，白刃拼杀，持之以久，才把太平军杀退。
湘淮军冲入城内，捕获陈坤书和费天将。刘铭传和郭松林在城头下令，凡是缴械者都可免一死。太平军几万人下跪投降。湘淮军伤亡一千多人，进占常州。
湘淮军和常胜军一起攻占常州以后，同治皇帝授予戈登以提督军衔，英国人认为这是中国军队最高的军阶。英国军方则将戈登晋升为中校，并将他封为勋爵。
罗荣光因炮击常州有功，升任副将。后来，他成为中国第一批近代化的炮兵和水雷专家，成为清廷海防的中坚力量。
黄翼升正式出任江南水师提督。杨岳斌正在江西指挥作战，黄翼升又接管了外江水师。
冯子材率部于5月13日攻克丹阳。部将张文德斩杀太平军将领陈时永，俘虏赖桂芳，清廷将他以提督记名。
松字营从宜兴战到丹阳，屡立战功，郭松林升任福山镇总兵。
太平军从常州和丹阳撤出，很大一批从广德奔向徽州，道路上日夜都有部队行军。曾国藩将杨岳斌和鲍超的部队调往安徽，嘱咐李鸿章派兵接管他们的防区。李鸿章派刘铭传部驻扎句容，派郑国魁部驻扎东坝，派周盛波部驻扎溧阳的南渡和定埠。冯子材的镇江军凯旋撤走，由张树声部驻守镇江。
李鸿章裁撤常胜军三千人，戈登回国。保留炮队的六百人，由罗荣光率领，移驻浒墅关。保留枪队三百人，随总兵李恒嵩驻扎昆山。
太平军开到徽州，并没有停留，只是取道，南下江西。当时汪海洋等部据守贵溪、金溪和泸溪，而广昌的太平军北攻南丰，与汪海洋等部南北呼应。李世贤部驻扎崇仁，占据崇仁东北方的东乡，还占据了崇仁东南方的宜黄。
清廷对江西的局势加深了忧虑，频频下诏垂询曾国藩，要他从彭玉麟和杨岳斌两人中挑选一人镇抚江西。
曾国藩的注意力击中在太平天国的国都，对江西并不十分在意。他复奏说，太平军多次往来于江西，只要派兵攻击，他们立刻就会败逃。曾国藩比较担心太平军进入湖北，请清廷派彭玉麟的水师驻扎在九江上游，控制湖北。
左宗棠在江西的问题上持有不同看法。他认为这个省份的安危，关系到东南大局。而且他特别看重杨岳斌，认为此人足以担任封疆大吏，而他的才干还没有得到充分的发挥。他专为这事上了一道密折，说湖州、常州和广德的太平军奔往江西，应该委任杨岳斌去江西独当一面。他的提议，与清廷的意思正相吻合。
左宗棠的看法与清廷不谋而合，于是清廷采纳了他的意见。5月28日，清廷颁下一道特诏，命令杨岳斌指挥江西的军事，兼任安徽南部的防守。诏书上还特地提到，曾国藩多次奏请大臣分任军事，如今清廷找到了合适的人选。清廷已在巧妙地利用湘军大帅在军事和人事上的意见分歧，试图削弱曾国藩的影响。
杨岳斌和彭玉麟一直存在矛盾，尽管胡林翼一度从中调和，但两人间的成见无法最终化解。原因主要在杨岳斌一方。他只是一介武夫，对于彭玉麟这个从军的书生怀有妒意。杨岳斌的官职先前高于彭玉麟。但是，在彭玉麟改任提督时，清廷赋予他统率文官的权力。杨岳斌恨自己不是文官，言谈中常常流露出怅惘。有事上奏，还得由曾国藩转呈上去。 电子书 分享网站
1864年，同治三年（13）
按照许多人的看法，杨岳斌所立的战功，远远超过了彭玉麟，可惜文武相隔，是无法弥补的遗憾。不过，文人们也有不拘一格的时候，交口称赞杨岳斌，佩服他的才能和品德。现在杨岳斌终于满足了心愿，指挥军队专征，部属们个个欢天喜地。
杨岳斌非常感激左宗棠的保举之恩。他听说席宝田上报浙江太平军逃入江西的精兵多达###万，而左宗棠先前奏报只有几千名太平军从浙江逃出，认为席宝田的报告侵害了左宗棠，便对他心生怨恨。
曾国藩和沈葆桢根据席宝田的报告将情况上奏清廷，并且派人飞报湖南和广东，提醒大家要防备太平军精锐部队。
289
李世贤和汪海洋的部队进入江西，兵力确实不少，战斗力也确实很强。在杨岳斌赶到江西之前，湘军各部已针对太平军的部署，分别进行了攻击和防守。
江忠朝和席宝田率部攻击崇仁的李世贤所部，边晓棠也收拢旧部参战。刘典和王文瑞率部从乐安向北推进，鲍超率部从丰城南下，约定在崇仁城下会师。