李鸿章则认为当时的主要危险来自漫长的海疆，尤其是京津和沪宁是国家的腹心所在，一定要以海防为重点。但是，李鸿章没有考虑到，西陲有事应在短时间内集中人力物力先行解决。左宗棠的成功就在适应了这一需要，虽然他对海防形势的估计未免过于乐观。当时清政府的财政非常困难，只好把能够动用的财力主要用于西征。李鸿章在“海防大讨论”以及后来关于海军海防的竭力倡言，为近代中国海军海防建设起到了有力的推动作用。
在以李鸿章为代表的务实派高级官员们的努力倡导下，清政府建成了福建、北洋、南洋和广东4支小规模的海军舰队。然而，法国侵华远征舰队于1884年8月中法马尾海战中，竟然全歼了最早组建的整个福建海军。中法战争刚一结束，光绪帝就郑重发布了大力扩充海军的上谕：“自海上有事以来，法国恃其船坚炮利，横行无忌。我之筹划备御，亦尝开立船厂，创立水师。而造船不坚，制器不备，选将不精，筹费不广。上年法人寻衅，迭次开仗，陆路各军屡获大胜，尚能张我军威；如果水师得力，互相援应，何至处处牵制。惩前毖后，自以大治水师为主！”随即，光绪帝下谕设立了总理海军事务衙门，简称海军衙门。
海军由此成为国家的正式军种，近代中国的海军海防事业开始步入正轨的发展时期。光绪帝的生身父亲醇亲王奕譞（xuān）亲自出任总理海军大臣，而一直力主大举兴办海军的李鸿章出任会办海军大臣，具体掌管全国海军海防建设大业。
李鸿章在担起筹建北洋水师的任务后，全身心投入海防建设，购买船舰，兴办水师学堂，建设大沽口、旅顺口、威海卫军港基地，起用著名科学家徐寿之子徐建寅等一大批中外专业人才。光绪元年（1875年），日本入侵中国的另一个藩属国朝鲜，第二年逼迫朝鲜签订《江华条约》，解除中国与朝鲜的宗藩关系；光绪五年（1879年），日本吞并琉球，改设冲绳县。惨痛的事实一次次震动着清政府朝野，从而也促使了海军建设的加速。尤其是中法战争期间，马尾军港被法军炸毁，福建水师全军覆没，促成了海军衙门的建立，慈禧命醇亲王奕譞授总理海军事务，庆郡王奕劻、李鸿章为会办，汉军都统善庆、兵部右侍郎曾纪泽为帮办，其阵容相当庞大，而李鸿章则是北洋海军的实际权力掌握者。
要建立近代海军，必须解决船舰问题。李鸿章最初主张自己制造，后来转向从英国和德国买船为主，造船为辅的方针。因为当时在中国造船，造价要远远高于从国外买船。李鸿章在买船的同时，还将闽沪两厂制造的一些轮船调入北洋海军。除了船舰之外，还须建立海军基地。李鸿章在大沽建造了船坞，在旅顺口修建了口西、口东海岸炮台、陆路炮台，还有大连湾炮台；在威海卫岸上的要隘建立炮台，在水面建筑铁码头。一时间，威海卫堪称“东海屏藩”。旅顺口和威海卫由此成为北洋海军的基地，守卫着渤海和天津。李鸿章还意识到要培养一大批海军人才。福建船政学堂的学生，几乎都被李鸿章所用。此外，李鸿章还雇佣了一批洋人担任技术人才。
此时，威妥玛希望英国军官能够独揽对北洋海军的教习任务，遭到了李鸿章拒绝。李鸿章一直采用英国军官和德国军官并用的原则，使得列强没有能够达到控制中国海军的目的。1888年10月，在李鸿章的苦心筹办下，海军衙门上奏慈禧太后并获准颁行《北洋海军章程》，标志着北洋海军正式组建成军。
这是近代中国海军海防事业发展的辉煌顶点。由于北洋海军的庞大阵容，中国海军作战舰艇的总吨位达到4万多吨，一度跃居海军世界大国的行列，在亚洲地区则是首屈一指。北洋军事工业的重要企业为旅顺鱼雷制造所。
北洋海军的建设一直以日本为假想敌，到甲午海战之前，其实力已经达到了当时世界的领先水平。但是，在这个过程中，也充斥着清政府内部的派系斗争，北洋海军在很大程度上存在着诸多致命弱点。如在防御体系的建设、海军的训练以及军队的体制等问题上都存在很多问题，尤其是在经费问题上，慈禧太后多次挪用海军经费修建颐和园、举行寿庆活动，更有户部尚书翁同龢不但处处为李鸿章设置障碍，还公开反对北洋水师建设，拖欠、拒绝给付海军经费。因为财力的限制，中国的海军远远无法和外国的军队抗衡。李鸿章曾经感叹道：北洋只有半支海军。不久之后，李鸿章的担忧真的变成了残酷的现实，那就是甲午海战的失败。一系列问题导致了中日之争的最后结果——北洋水师在甲午海战中以惨败告终。
做就要做绝的厚黑哲学
从1863年初到1864年5月，李鸿章率领淮军一路收复昆山、常熟、苏州、常州，向世人显示了这支军队的作战能力。在此期间，“常胜军”也协同淮军一起作战，但都是遵从李鸿章的部署。1863年11月，李鸿章亲自率军攻打苏州，与忠王李秀成部抗衡，双方相持不下。此时，太平军内部一些动摇分子产生叛降之念。当戈登率领的常胜军攻城陷入埋伏之后，太平军将领纳王郜永宽等为了赢得叛降的资本，故按兵不动，放了戈登一马。否则，戈登必然全军覆没。李秀成见力敌无望而率军撤退，把守城的任务交给了慕王谭绍光。淮军副将郑国魁是郜永宽的结拜兄弟，在程学启的鼓动下，郑国魁对郜永宽做了许多劝降工作。一天深夜，在苏州附近的湖上，郜永宽等人秘密和程学启签下协议，由戈登作证，商议投诚事宜。
李鸿章得知消息后，一面安抚戈登，让他在北门外待命；另一方面假意接受郜永宽等人的投诚。李鸿章之所以假意接受他们的投诚，是因为郜永宽等人要以杀死坚决守城的谭绍光为条件，自己仍然率旧部留守苏州。当时太平军在苏州城内约有十万余人，他们答应让出苏州城的一半给清军，而自己的部队不能被拆散，要保持整个建制编入淮军。程学启看到他们这样的条件，于是向李鸿章献计，将降将杀掉。李鸿章认为，他们几人今天能降我，明天也可能降他人。如果他们投降之后再反叛，我岂不是自讨苦吃？如果不允许他们自带旧部，那么苏州城仍然不可得。所以，他依了程学启之计，在苏州城外威武的座船上大摆鸿门宴，乘机将投诚的太平军八大降王一并杀掉了。
曾国藩对此事评价说，李鸿章心狠手辣，眼疾手快。李鸿章在其他事情的处理上也有类似的做法，有人说这是“厚黑”。李鸿章做事通常比较注重结果，而不在意过程，这也算是他的某种风格吧。
倾尽全力剿匪，但不急于邀功
在湘军攻陷天京之后，曾国藩与清政府的关系骤然紧张起来。清政府深切地感到自己统治的最大威胁并不是太平天国余波，而是手握重兵、广揽利权的曾国藩。当时曾国藩总督两江，督办江、浙、皖、赣四省军务。他所创建的湘军已增至30万众，他直接指挥的湘军包括其嫡系曾国荃部在内亦多达12万人。他还控制着皖、赣等省厘金和数省协饷。他因“用事太久，兵柄过重，利权过广，选者震惊，近者疑忌”。而权势远在曾氏之下的左宗棠、李鸿章等同清政府的矛盾则降到次要地位。清政府为了防止曾国藩的权势继续膨胀而同自己分庭抗礼，便采取了压抑曾国藩兄弟，扶植左、李等人与之抗衡的分而治之的策略。1864年11月6日，即在湘军攻陷天京尚不到4个月的时候，清政府突然命令曾国藩前往皖、鄂交界“督兵剿贼，务其迅速前进，勿少延缓”，而改派李鸿章署理江督事。曾的幕僚赵烈文为此发出“殊咄咄可怪”的惊呼，曾国藩本人也“意殊寥落”。虽然不及一月清政府就收回了成命，但此举却是明显的扬李抑曾。
曾国藩太精于权术，也深谙官场之道。此时的曾国藩身为两江总督，督办江苏、浙江、安徽、江西四省的军务，他统率的湘军已经达到30多万，亲自指挥的湘军就有12万人。此外，他还控制着四个省的厘金和粮饷。如此巨大的权势集中在他一个人的身上，岂能不让清政府猜忌！“功高震主”这四个字不时地敲击着曾国藩的心。他不由得琢磨起后路来。
曾国藩开始主动裁撤湘军，以保住清政府对他的信任。他还希望通过保留李鸿章的淮军，作为自己和清政府之间平衡的砝码。曾国藩把手中的12万人分给了左宗棠、沈葆桢二人，对于朝廷最为担心的曾国藩的嫡系部队（即胞弟曾国荃所部），曾国藩也进行了大批裁撤，并安排曾国荃以生病为借口回老家调养。
1865年5月，清政府的“剿捻”统帅僧格林沁在山东菏泽全军覆没。僧格林沁死在一个十几岁的童子兵张皮梗的手下，场面煞是惊人。清政府马上任命当时为两江总督的曾国藩为钦差大臣北上督师，让李鸿章以江苏巡抚署理两江总督。这意味着李鸿章即将掌握两江的军权和政权。李鸿章在各方面给曾国藩的剿捻活动以支持。首先是在兵力上，湘军已经被裁撤的差不多了，李鸿章调给曾国藩33个营的淮军。李鸿章又派出10个营的精锐部队航海前往天津然后转战到景州、德州。李鸿章在粮饷上也给予曾国藩很多支援。他知道，在“剿捻”的大计面前，湘军和淮军必须团结一致。
曾国藩的此次剿捻，先后调集淮军6万。这些淮军一律装备着洋枪洋炮，还有堪称完备的独立炮队。可是，曾国藩在指挥淮军时却很不灵光，因为淮军只听从李鸿章的调遣，而这一点他并不是不知道。曾国藩心中即使有一些怨恨和牢骚，也只好徒自兴叹。他此刻最大的感叹，就是湘军的盛况已去……曾国藩剿捻并不尽如人意，1866年9月，捻军大破开封附近湘军战线。曾国藩得知后，十分忧虑，一下子病倒了。曾国藩给朝廷写了请罪书，还把李鸿章叫到身边帮忙。可是，清政府却发来了圣旨，让曾国藩返回两江总督任内，令李鸿章为新的钦差大臣，接替剿捻重任。曾国藩脸都气紫了，真是太有失颜面了。他为了平衡心态，一再要求留下来维持军心，可是清政府却让他赶快回到两江去。
1866年12月12日，清政府实授李鸿章为钦差大臣，专办“剿捻”事宜，李鸿章成为“剿捻”主帅。
李鸿章派人到曾国藩那里去取大印，曾国藩本来就生着病，看到此景格外感伤和落寞。他无奈地说，这么快就拿走了？我还以为得办个交接仪式呢！
李鸿章接任后，得意忘形，根本没有把捻军放在眼里。不久，他就尝到了接连四次溃败的苦滋味。这四次分别在罗家集、倒树湾、尹隆河、六神港。捻军突破曾国藩的河防之后，在1866年10月分为东西两部：赖文光和任化邦率东捻军在河南活动，张宗禹率西捻军攻打陕西。
捻军和太平军不同，他们人数较少，没有根据地，作战灵活，采取游击战术。湘淮军则人数众多，调动起来很困难，经常被捻军牵着鼻子走，疲于奔命。在对付捻军的战略上，李鸿章采取了“倒守河运”的方法，意图是：捻军已经在1867年的夏天突破运河防线，进入山东，李鸿章决定守住运河西线，不让捻军回师。后来，捻军多次想过运河而不成，只好改去鲁南、苏北一带游击。刘铭传买通任化邦手下的一个小头目开枪射死了任化邦，于是捻军大乱。最后，赖文光也英勇就义。
消息传到北京，朝野上下欢天喜地。曾国藩也跟着淮军沾光了。一干人马统统论功行赏。李鸿章一声令下，八万湘、淮军全部会合于济宁，共庆李鸿章剿灭了东路捻军。
同治六年岁末，李鸿章各路大军都回到济宁庆功度岁，日日狂欢。十二月二十七日，朝廷论功行赏的圣旨下来，却犹如一盆冷水，把湘、淮两军的欢庆气氛灭下去了。首先是直隶提督刘铭传，北上转战两年多了，立功也多，几乎送了性命，原以为这次可以捞个男爵，但朝廷却只赏了个正三品的三等轻车都尉世爵。其他将领都不过是个正四品的骑都尉或正五品的云骑尉。最吃亏的要数李昭庆了，因李鸿章命其去金陵城提饷，面见曾国藩。等他急匆匆赶回一线时，正好战斗刚刚打完，赖文光被俘了。时运不济，李昭庆干了两年多，最终什么世爵也没有捞到。
李鸿章召集全体将领宣读圣旨时，刚念完了对刘铭传的封赏，刘铭传就蹦跳起来了，一脸的麻子急得一点一点通红发亮。他喊道：“歇作罢（合肥语），这还有什么干头！我们这两年多东征西战，如今把东捻一举全歼了，没有想到朝廷如此不讲义气。给我一个轻车都尉，还是三等的。我可要回合肥老家带孩子去了！留着这条命回老家享享清福吧！”说着，他当场就要离开，抬头见李鸿章正拿眼瞪着他，才低了头站住脚了。
郭松林在这之前已授了江苏福山镇总兵，这回也才捞了个正四品的骑都尉。他当场就骂开了：“只要李大人点一个头，我步行上紫禁城与慈禧太后论理去。她凭什么只给我们兄弟们这么低的封赏？是没有干
头了！”
周盛波咕哝道：“太后、皇上这回的确不像话。湘、淮两军立了这么一个大功，全歼了五万人马，封赏起来却小气得令人咽不下去。还要去打西捻呢，打了西捻又能怎么样？”
李鸿章从心里也觉得朝廷这一次赏功不高。但眼下这帮将领们也太出格了，不仅牢骚满腹，还公开骂娘。这些骂娘的话若要是传出去，那可不是闹着玩的。于是，他拍案而起，把发牢骚的将领都训了一通。见大家都不吭声了，他才心平气和地说：