曾国藩的厘金税制扩大到两江辖境以外，1860年夏，他得到湖南巡抚骆秉章的同意，在长沙成立东征局。曾国藩的一位绅士出身的老友黄冕被任命主持局务。他在1855年曾协助制订湖南省的厘金税制。东征局当时得到湖南巡抚的批准，对盐、茶和其他主要商品增收厘金税五成，特别用于曾国藩部队的需要。此事于1861年1月上报清帝，从这时到1864年中期为止，这四年多中用于该省征募新兵的费用以及拨给曾国藩作军饷的湖南厘金税款共达二百万两。1862年4月，清帝批准曾国藩的请求，把广东省的厘金系统扩大供湘军使用。于是在广东北部的韶关和广州设立新的厘金局，这两个机构的办事人员都从曾国藩的大本营中抽任。①这种跨省的措施只是因为曾国藩得到清帝的支持才得以实现。
但是曾国藩的厘金系统必然会碰到传统的人员培训和根深蒂固的陋习等方面的明显缺陷。就象大部分将领重视军衔和财富更甚于慎独德行那样，少数具有理财能力的文人也被发现缺乏献身公益的精神。虽然曾国藩继续对黄冕和李瀚章等人的廉洁深信不疑，但在1860年中期随着他控制的厘金系统迅速扩大，他不得不把他了解的那些才干胜于清廉的人派进厘金局。早在1861年春，曾国藩手下的厘金税吏及其将领的贪污已恶名远播，曾国藩自认，胡林翼两次写信责备过他，说他“嫉恶不严，渐趋圆熟之风，无复刚正之气”。曾国藩辩解的唯一理由是战争形势紧急，而他能使用的只有这些人，别无其他选择。1862年，左宗棠写信给曾国藩说，不幸的是，他也发现那些能实干的人格外贪婪。曾国藩答复道：“鄙意好利尚有偏裨之才。惟没干者，决当屏斥。” 他哀叹道，“为德为才，得一已难，两者兼全，更不数觏”。①曾国藩认为，厘金税之所以腐败，并非全是他下属的过错。因为他的助手充其极只能在地方绅士中选用比较廉明的人，这些人不仅愿意屈尊俯就，而且还有足够的才干设法征收大量税款。李瀚章在江西的经验使曾国藩相信，只有地方上那种追逐私利的小绅士才对经管厘金税卡感兴趣。曾国藩断言，“江西厘务，立法不为不密；只因各卡贤员过少，遂觉前此之成法皆虚”。尽管他信仰程朱的道德学说，但到1863年时却无可奈何地退而承认，在教育儒家君子时，应考虑到“利”。他痛感自北宋王安石变法失败以来，儒生中鲜有谈“利”之风。曾国藩发现自己与南宋的实用主义者叶适（1150—1223年）的观点是一致的，后者写道：“仁人君子不应置理财于不讲。”②曾国藩与归他管辖的三省巡抚，有责任监督地方的吏治，包括征收田赋和司法行政，并且还要在经济和道德风尚方面医治地方上的战争创伤。在皖南曾国藩进行指挥的第一个大本营所在地，他发现城乡都遭到彻底的破坏。“无不毁之屋，无不伐之树，无不破之富家，无不欺之穷民。”在1860年夏，他感到应“一面治军剿贼，一面择吏安民，二者都不可偏重”。③可是军情非常紧急，所以曾国藩必须更加全力以赴。虽然非常需要恢复被破坏地区的经济，但也必须尽快恢复征收田赋，这不但是为了满足军事需要，也是为了使北京宫廷能取得它需要的经费。对一位钦命大员来说，国计毕竟与民生一样重要。在缴税方式方面，不应只由肩负厘金税重担的商人来表示臣民的忠君爱国之心，大小地主在 一旦土地有收成时也应同样报效。此外必须采取行动来加强正统的伦理教育以及文人的道德观。应把谥号授予为王朝殉难的义士和为贞操殉节的烈女。
曾国藩认为在地方上实施良好的吏治的关键也在于“贤且智者”，这与他的信仰是一致的。虽然他不象胡林翼当过府县的亲民之官，却没有忽视下层衙门的根深蒂固的弊病。他也深知：地方县官常常巧立名目征收苛杂；上面的省级官员又对县官提出各种要求。但他认为，如果使贤明当道，这些陋习是可以改变的（这正是他梦寐以求的事）。曾国藩对胡林翼任湖北省巡抚时的政绩非常赞赏。该省在1856—1857年肃清太平军时，胡林翼获敕让他自己选用代理知县补缺，而不是由北京朝廷按常规选任知县。胡林翼在一封信中写道：“办事全在用人，用人全在破格。”①从1857年起，对田赋和漕粮（折征）的征收已在湖北省大部分地区恢复。胡林翼不断写信给州县官员，告诫他们要按规定税率公平地向所有地主征税和贯彻“寄抚字于催科”这一传统的格言。这种貌似矛盾的说法也可自圆其说：既然税收为国家所必需，则在征收过程中只有尽可能做到公平合理，才能保护人民的福利。清廷自十八世纪以来已经制定了较轻的土地税税率，但是浮收在这时常较正规的赋税重得多。有些浮收，如火耗和某些与漕粮有关的征收，是得到清帝批准的，但有许多项目则为“规费”，它们从未被正式规定，但却是包括县衙门在内的地方各级官府的必要收入来源。有的浮收干脆被称为“陋规”，它们有时尚可被辩解为官方支出的必要补充，但经常成了税吏纯粹为私利而进行的一种勒索。
胡林翼特别感到痛心的是，一些有足够权势能把衙役拒之门 外的所谓“大户”通常能免缴浮收，甚至免缴正规的赋税。大部分田赋实际上落到了“小户”身上，这些通常是平民身分的小地主防止额外课税的最好办法是贿赂胥吏衙役以换取较轻的税额，或者去寻求绅士（他们通常为了从中获利，包揽了小土地主赋税和浮收的缴纳）的帮助。胡林翼把小户的苦难主要归之于衙门胥吏差役，这些人与权势者相勾结，但对农民却冷酷无情，恰似禽兽之于“周围民居所在啄食之也”。他要县令对违法衙役严惩不贷，直至将他们撤职或拘禁。但胡林翼也了解“陋规”常常是上面压力的结果，这种压力不但来自知县，而且来自府道。他在1857年的奏折中写道：“欲禁浮收，当先革冗费”。他确实下令废除了数十种长期在许多省成为定例的小额冗费。①但胡林翼自己承认，湖北省的许多地方继续在搞枉法徇私的活动。
曾国藩刚被任命为两江总督，几乎就立刻物色能代署知县的贤员，以便在安徽树立清廉的榜样。他请他的朋友们择才，“唯须得极清廉极贤之州县一二人，来此树之风声”。他因公务繁忙，无暇亲自过问，就把选用皖南代理官员之事交由有举人功名的学者和湘军统领李元度去办。他告诫李元度说，“与民更始，庶几渐有转机”。曾国藩在安徽巡抚翁同书的勉强合作下，还想更换皖北的大部分官员。他写信向胡林翼求助：“皖北州县，一一皆请公以夹袋中人才换之，俟当附片奏之。”鉴于还有战争的紧急任务，看来在曾国藩自己的幕府中被认为适合当地方官或可调任地方官的人为数甚少。
曾国藩显然坚持他的“人存而后政举”的信仰。②然而要举者是何政？曾国藩似乎把重振儒家守则放在比复兴经济更优先的地 位。他在1860年7月署理总督时就向两江各省的官员和文人颁发文告，敦促官员要克勤克俭，并请绅士保举有才之士为政府效劳。他强调地方官员的紧急任务是提供救济，但不是给予农村居民，而是给落魄绅士和文人的家庭，特别是给予那些其家属因战争死亡的人。曾国藩任总督后的第一个行动实际上就是设立忠义局。他请官员和文人向局提供殉国者的事迹，加以核实后上报清帝，以便能获准立碑和祠祀。
曾国藩在1861年9月收复安庆后，确实与绅士们一起主办过济贫事业，给充斥在街头的难民施舍钱粮。但同时又在附近确有收成的农村每亩地征钱四百文，以应付紧急的军需。他还优先重新开办敬敷书院，这是为应乡试的士子在安庆设立的学术机构。①曾国藩这时向三种人发出一系列恳挚的劝诫，他们是州县官员、委员（曾国藩称之为“向无额缺现有职事之员”）和绅士。②官员们应“以重农为第一要务”，这不仅是因为农民受害最深，更因为“军无粮则必扰民，民无粮则必从贼，贼无粮则必变流贼，而天下无了日矣”。地方官员应尽量减轻农民赋税，减少徭役，帮助治水，甚至帮贫苦农民购买牲畜。州县官应俭朴不肥家私；他们应停止向上司送礼，这样就不需要再征收某些浮收了。州县官应迅速公正地解决诉讼，不惜严惩“恶人”。他写道，这是“不得不刑恶人以伸善人之气也”。但曾国藩没有强调也要严惩衙门胥吏差役。他在谈到他们时，只说州县官自己应该“一分一毫，一出一入，无不可对人言之处”，以为其部属树立榜样。
曾国藩对绅士，特别对那些组织地方团练并在开征维持它们 的捐税中从中渔利的人，责难最为严厉。虽然湘军在早期已经吸收了一些团练，但他对它们是否有用则非常怀疑。他在1861年写道：“弟在军数年，一无所解，唯坚不信团练。闻人言团练大捷破贼者，则掩口而笑，掩耳而走耳。”他这时警告绅士，不论谁利用团练局向“愚懦”榨取钱财，将严惩不贷，“虽巨绅也属可诛”。在当时的一封信中，曾国藩含糊地提出，“古来保甲之法”足以维持地方的治安。但没有详细谈到怎样恢复此法。①虽然曾国藩了解中国农村的一些根深蒂固的问题，但因显然全神贯注于军事和财政问题，无力再兼顾吏治。他对“成法”坚信不移。他希望任地方官的正人能“随事纳之准绳，庶不泥于例而又不悖于理”。但他对他治下的新任州县感到失望。他在1862年初写信给安徽巡抚李续宜时承认，他选用的州县官员“皆不惬物望”，而李巡抚留用的那些人“也非称意之选”。曾国藩这时感到选用地方官的标准应予放宽：“中材”对事也许无大妨碍。他又准备了另一份候补官员的名单，要李续宜与他一起向清帝保举，以接替一些在职官员。但新名单证�