首先是大力整顿税政，增加税收。据行家估算，同治元年，上海的关税一年就达到500万两。但李鸿章刚开始对上海的情况不大熟悉，署布政使吴煦又有意想垄断财政权，李鸿章遂仿照曾国藩对江西的办法，将上海财政一分为二，由吴掌管关税收入，以备常胜军、会防局和镇江守军支用；厘金则由李鸿章派人接管，以作为湘军和淮军的日常开支。数月后，吴卸署调往他处，上海财政全归李掌握。随着九江、汉口海关开征，上海关税收入虽然有所下降，但厘金田赋却因淮军收复失地日渐增多。此外，还另外加收新的捐税。再加上对吴煦所主持的弊端极多的各项税政进行调整，处理不法的人员，重新制定章程，效果也很好。这样，上海税金估计年收入应该能达到500多万两。
其次，扩充实力。李鸿章带至的上海陆营水师，总共不过万余人，加上其弟李鹤章由陆路带来之马步1500人，兵力合计12000人。这样的规模肯定不能应付四面皆敌的战局。
李鸿章遂凭借上海财力，大力招兵买马：一是招募新营，派张树声、吴长庆回皖招募九营，后又派人到苏北招募五营。二是对上海原有绿营系统的部队进行筛选、整顿、改编，其中少数仍由原有将弁管带，而大多数则由其他人掌管。如郭松林原为曾国荃部将，随李到上海后，李就命令他对绿营进行统一改编。对原有水师也采取同样办法，把曾秉忠部下的200号战船减裁到170号。三是大量收编降众，南汇、常熟、太仓等太平军守将归降后，有的整编，有的仍由降将带领，而有的则分散编入各营，补充缺额；四是曾国藩代其组建由李朝斌统带的太湖水师十营加入淮军。五是吸收少量苏杭地区的盐枭枪船和团练，郑国魁的两营水师就是由盐枭改编布成。经过各方筹集，至攻下苏州时，李鸿章座下水陆军已达7万多人。
再次，更新武器。李军初来上海时，武器装备只有冷兵器和原始热兵器。之后不久，李鸿章就深感这些远不及洋枪洋炮性能之优良，于是大量购买西洋武器，装备部队，并且吸取江南大营只用洋枪不用西法训练的教训，聘请西人教练部队，把部队按西法训练。至同治元年十月，所部“能战之将，其小枪队悉改为洋枪队，逐日操演”。以后逐渐增加购买西洋武器，至四年春，“每营用洋枪四百余，少亦三百余杆”。这就是说，原有的原始热兵器小枪抬枪和大部分冷兵器，已经基本上为洋枪所取代。与此同时，还增加了许多洋炮。
张遇春军最早装备洋炮，元年年底，李鸿章还亲自对其操练进行视察，以后郭松林、刘铭传、程学启等军也相继用洋炮来进行装备，甚至还组建抚标亲军炮队，其中刘铭传和程学启拥有大炮更多达二三十门。所部会字营千人也是由英国人代为训练成军。三年常胜军裁撤下来的炮队600人，枪队300人，外籍教官12人，又全部划归淮军。而其所聘用的西人，平时训练军队，战时协同作战。这一切，使淮军拥有近代武器的数量在全国排第一，从而部队的战斗力得到很大增强。
最后，增加了个人的主导权。李鸿章至上海后，仿效曾国藩的做法，除了其亲弟李昭庆、李鹤章为统领外，还提拔重用同乡亲友。如刘铭传、张树声、潘鼎新、吴长庆、周盛传这些皖中最早参加淮军的团练头目，一一被提升为统领。还重用籍贯为安徽的原绿营将领和太平军降将，前者像况文榜本为获罪的败将，李不仅未予惩处，还给其戴罪立功的机会；后者如从湘军拨来之程学启，和到上海后接收的降将骆国忠、吴建瀛等，也被提拔为统领或分统。此外，李鸿章还令同乡好友蒯德模、蒯德标，乡试同年凌焕，会试同年陈鼐等人，或主持营务，或委以厘局、粮台、文案等重任，苏常收复以后，还重任其中一些人为实缺府县官和道员。这一大批人，本来与李鸿章有私人交谊，现在又被破格提拔、委以重任，自然感恩图报，对其唯命是从。
李鸿章所取得的显赫成就，除了曾国藩的支持，以及巨额的上海税收作为物质基础外，也离不开西方国家的支持。李鸿章至上海后，就与西方各国军政人员频繁往来，参观西方军队操演，并大批购进西方武器，采用西式方法进行训练，聘用西方军人，表现出友好的合作态度。再加上淮军的战斗力又远远超出绿营，西方国家自然高兴给他们供应武器，并为其进行军事部署，训练部队，提供贷款。
经过同治前三年（1862～1864年）时间的坚持不懈的努力，李鸿章终于摆脱了淮军对湘军的附庸地位，使淮军成为一支军事、经济实力雄厚的统一部队，几乎可以与湘军分庭抗礼，同时也成为一个大的政治集团。
剿平捻军
太平天国起义失败
战局恶化
曾国藩的湘军从咸丰九年（1859年）下半年开始重整旗鼓，再次朝安徽的太平军发起进攻，驻池州守将韦俊向清军投降。江南大营也加紧进攻天京，天京的局势又开始变得紧张。咸丰十年（1860年）一月，曾国藩的湘军围攻安庆。
咸丰十年（1860年）初，洪仁捦、李秀成等人在芜湖召开军事会议，他们一致认为应该集中兵力打击江南大营。他们派精锐部队从小道偷袭杭州，吸引江南大营分兵救援杭州，然后把偷袭部队迅速撤回，再用优势兵力出奇不意地集中攻打江南大营。十年（1860年）正月，李秀成挥师南下。二月，一举攻破杭州。闻讯，江南大营果然派兵救援。李秀成同时放弃杭州，迅速撤师回朝。闰三月，李秀成、陈玉成等五路太平军联手猛攻江南大营，清军头目和春、张国玕败逃至丹阳，太平军步步紧追，张国梁拨马出逃时落水溺死。和春逃至无锡浒墅关，陷入绝境而自杀身亡。从此，江南大营便不复存在。
咸丰十年（1860年）四月，洪秀全在天京举行会议，庆贺大军攻破江南大营，并在同时又召开军事会议。会议决定太平军立即东征苏南地区，然后在江南、江北分两路大军沿江西征，夺取武汉以缓解安庆局势，被称作二次西征。会后，李秀成择师东征，克复苏州等许多州县，大军开始朝上海进逼，开辟了苏南根据地，建立了以苏州为中心的苏福省。
五月，李秀成发起了对上海的首次进攻。这时，盘据上海的外国侵略者不再假惺惺地搞什么中立，而是帮助清军进攻太平军。美国人华尔纠合一些外国亡命徒组成洋枪队进攻太平军，但屡屡失败，华尔也受重伤。当太平军迫近上海城时，适值英法联军从天津撤至上海来援助清军抵抗太平军，于是，李秀成撤离了上海地区，退到苏州。
咸丰十一年（1861年）初，陈玉成和李秀成率军发起第二次西征，以解安庆之围，并使天京的安全不受威胁。陈玉成军沿长江北岸从安徽入湖北。原约定李秀成军沿长江南岸经江西进入湖北，两军于咸丰十一年（1861年）三月在武汉会师。陈玉成的北路军于咸丰十一年（1861年）二月攻克离汉口只有一百六十里的黄州。当时，在汉口租界的英国参赞巴夏孔赶到黄州游说太平军放弃攻打武汉，说什么太平军如先攻打武汉，容易形成孤军深入，有遭到夹击的危险。又由于李秀成的部队行动迟缓而未及时赶到，陈玉成竟搬师回朝去援救安庆，放弃了进攻武汉。李秀成则高估湘军的实力，于是改变路线从徽州进入浙江转攻江西，再进湖北，直到咸丰十一年（1861年）五月才抵达。而陈玉成早已率军回援安庆了。由于李秀成的延期会师和陈玉成急忙撤走，遂使第二次西征再次失败了。
曾国荃率领湘军猛扑安庆，在安庆外围与太平军展开最为残酷的战斗。咸丰十一年（1861年）八月，安庆失守，守城的太平军16000多人无一人投降，全部战死。湘军屠城三日，全城男女老幼无一幸存。
安庆失守使天京失去了西部屏障，这对太平天国来说是一个惨痛的损失。但是，太平军在东部战场获得重大胜利。咸丰十一年（1861年）四月，李秀成的堂弟李世贤率部攻入浙江，不出半年，太平军便占领浙东、浙西的大部地区。八月，李秀成从江南转入浙江，十一月底攻克杭州，遂把浙江和苏南根据地连成一片，成为天京东都的屏障，并保障了天京的物资供应。如果没有苏浙基地的开辟，太平天国最后两三年的处境将难以想象。苏、浙两省历来是中国最富庶的地区之一，也是清朝政府赋税收入和粮饷的重要来源。曾国藩曾经惊呼：“现在浙、苏两省膏腴之地，尽为贼有，窟穴已成，根柢已固。”
然而，太平军在东部战场的胜利，却阻止不了西部形势的迅速恶化。陈玉成在安庆失守后，退回庐州。同治元年（1862年）初，他派部将陈得才、赖文光等率军向西北远征，他自己留在庐州与湘军进行了3个月的血战。三月间弃城突围，被反复无常的团练头子苗沛霖骗入寿州城内，并扣押了他，送至清军胜保营内。胜保要他下跪，陈玉成怒目斥责说：
“你本是我手下的败将，我怎能跪你？好不自重的东西!”胜保又对他进行劝降，陈玉成暴跳如雷，厉声喝道：“大丈夫死则死耳，何饶舌也!”陈玉成大义凛然、坚贞不屈，五月英勇就义于河南延津，年仅26岁。庐州失守和陈玉成牺牲以后，使太平军西部战场完全失败。湘军乘机东下，步步逼进天京，太平天国的形势越来越危险。
天京变乱后，天王洪秀全遭受重大打击，而他的封建思想和宗教迷信却越来越严重。
他更加脱离群众，不理朝政，不了解下情。他常常写一些让人摸不着头脑甚至是自相矛盾的诗句或顺口溜作为诏令颁发下去，结果朝廷上下无章可循，一片混乱。他一味迷信上帝，宁肯相信上天，也不相信人，总是企图依靠上帝的声威来防范他人篡权。他一度把“太平天国”改为“上帝天国”，后来又改称“天父天兄天王太平天国”。同时，为了保住自己的地位，为了削弱李秀成、陈玉成的势力，他便毫无节制地封王，使彼此互相牵制。因此，到太平天国失败前夕，封王竟多达2700多个。结果造成矛盾重重，政令不一，满朝文武竞相追逐名利，明争暗斗，“动以升迁为荣，几若一岁九迁而犹缓，一月三迁而犹未足”，于是朝野上下人心惶惶，各有他图。
在太平天国的地方和基层政权中，有不少异己分子混了进来。地主团练武装在苏浙地区也气焰嚣张，这些封建势力盘根错节，相互勾结，依旧欺压人民。有人混入地方政权和太平军中之后，仍与清军暗中勾结，阴谋颠覆太平天国政权。李秀成及其他将领对这些反常现象视而不见，反而一味采取“招抚”政策，敷衍塞责，引起了太平天国广大军民的抗议和强烈不满。因此，在太平天国管辖的区域中，农民经常进行抗粮抗租斗争，有时还发生杀死催租派捐的乡官的激烈冲突。
中外反动势力联合进逼
咸丰十一年（1861年）十月，曾国藩奉命统辖苏、浙、皖、赣四省军务后，坐镇安庆对军队进行统一指挥。他分三路大军进攻太平军：首先，于咸丰十一年（1861年）底，派他的弟弟曾国荃率湘军主力从正面进攻天京。接着，在十二月派左宗棠率另一支湘军由江西进入浙江。左宗棠因为对湘军提供过大力帮助而被曾国藩延入幕府，咸丰十年他开始单独招募和率领一支湘军来同太平军打仗。后来，曾国藩又在同治元年（1862年）三四月间，派李鸿章率淮军从安庆出发，乘英国轮船抵上海与外国侵略军一起攻打苏南地区的太平军。
李鸿章咸丰八年（1858年）为曾国藩幕僚，咸丰十一年（1861年）在曾国藩帮助下对安徽团练武装进行扩充和整编，按照湘军的编制组建淮军，成为镇压太平天国的另一支武装。
英、法、美等国侵略军在此时也以上海为基地加紧布防。同治元年（1862年）一月，中外反动势力在上海成立“中外会防公所”，负责统一规划防守上海的方案。英、法军在上海的驻兵也已达数千人之多。华尔的洋枪队也扩编至五千人，改称为“常胜军”。他们与清军联合进攻在上海周围的太平军。
同治元年（1862年）初，李秀成率五路大军离开杭州，从苏州出发，分别从水路和陆路，第二次进攻上海。他沿途对外国侵略者发出警告，让他们最好不要干涉太平军的行动，应当各宜自爱，互不干扰，倘助逆为恶，则是以卵击石，自取灭亡。李鸿章的淮军与外国侵略者联合起来，对其进行疯狂反扑。双方在奉贤南桥镇激战，法国海军司令卜罗德中弹身亡。太平军最终也不得不退出南桥镇。同治元年（1862年）四月中旬，李秀成亲率大军对侵略军发起反攻，接连收复嘉定、青浦等县城；在青浦又活捉了“常胜军”副统领法尔思德。五月初，当太平军逼近上海城郊时，侵略者颤颤惊惊地躲在上海城内不敢出战。清统治者也挖苦他们说：“夷人之畏长毛，亦与我同，委而去之，真情毕露。”
正当李秀成在上海近郊取得重大胜利之时，曾国荃率湘军进围天京，天京形势开始全面告急。洪秀全一日连下三道命令催促李秀成返回支援天京，李秀成只好暂时放弃攻取上海的计划，带兵赶回天京。从八月二十日至十月初五，李秀成在天京城外率领大军与湘军浴血奋战46天，湘军已快支援不住，曾国荃面部受伤。在安庆督战的曾国藩吓得面如土色。鉴于太平军粮草奇缺，寒衣无备，难以坚持攻坚，李秀成便主动停止了进攻，并按照洪秀全的命令渡江进攻皖北，向湖北进军，然后攻克武汉，占领湘军的后方，以迫使湘军撤离天京。这就是太平天国当时所布置的进北攻南的战略计策。同治二年（1863年）春，李秀成转战皖北。不料皖北正在闹饥荒，太平军将士饿死、病死的很多。五月，淮军又有所行动，攻占了雨花台。洪秀全再次急命李秀成迅速回军救援。李秀成率军正要渡江返回南岸之时，江水暴涨，再加上粮食奇缺，士卒死伤10万多人，损兵折将，士气衰退。
当李秀成在天京城外奋力拼杀之时，李鸿章督率淮军和“常胜军”乘机反扑。因此，东部战场的局势也开始对太平军严重不利。同治二年（1863年）一月，英国军官戈登统领“常胜军”，和淮军联合作战，在当年夏天攻陷太仓、昆山、吴江等地，朝苏州进逼。八月又派兵围攻无锡，企图把太平军后路截断，包围苏州。苏州太平军在慕王谭绍光率领下，顽强抵抗，使淮军和“常胜军”不断在坚城外消耗时间，却没有丝毫进展。十月十七日，“常胜军”趁夜间偷袭委门外炮垒，死伤士兵200余名。