李鸿章奉命使俄，本来颇为“得意”，但表面上却又故作姿态，以年老体弱、路程遥远、“傥陨越于礼仪，殊有伤于国体”为借口，并以在马关被刺为由一再推辞，而清政府则坚决不准。当李鸿章认为确实到了“众望所归”的时候，才表示自己“非敢爱身，唯虞辱命”，只要“一息尚存，万程当赴”。
2月28日，慈禧召见李鸿章，两天后李鸿章请训陛辞，3月3日离京南下，3月14日抵沪。当时，英、法、德诸国纷纷邀请李鸿章首先前往访问，以便渔利。李鸿章也曾有过经由法、德转赴俄国的打算。但是，俄国担心李鸿章首先出访法、德，有损于中俄交涉，便由喀西尼出面，与李鸿章商定路程：乘法船从上海出发，穿越红海和苏伊士运河，在埃及塞得港换乘俄船，由地中海进入黑海，到达俄国港口城市敖德萨，然后乘车前往莫斯科。
1896年3月28日，已是73岁高龄的李鸿章，带领随员李经方、李经述、于式枚、罗丰禄、柯乐德（俄）、德璀琳（德）、穆意索（法）、赫政（英）、杜维德（美）等45人，乘法国邮船“爱纳斯脱西蒙”号，从上海放洋，开始了周游列国之行。李经方负责协理事务，李经述负责照料李鸿章的起居。此外还有兵部主事于式枚及各国洋顾问等，李鸿章还带了一名英国医生。他们从上海出发后，经过东海、南海、马六甲海峡，横渡印度洋，穿过红海和苏伊士运河，到达埃及的塞得港。沙皇派遣乌赫托姆斯基公爵专程前往塞得港迎候，换乘俄国轮船，由地中海前往黑海。
李鸿章在上海临行前，曾对来访的黄遵宪说：“联络西洋，牵制东洋，是此行要策。”这既反映了李鸿章的心声，又道出了清政府的意图。不求自立，而欲“以夷制夷”，其结果必将为“夷”所制。
李鸿章先到达的是俄国。他们于1896年4月27日到达俄国港口城市敖德萨。李鸿章电告总理衙门说：“顷抵敖德萨，俄水陆提督暨地方文武接待甚恭。”
李鸿章此行的一个重要任务，即与俄国结盟。
沙皇让李鸿章先赴彼得堡，而不径往莫斯科，是为了在举行加冕典礼之前着手进行谈判，“因为在加冕礼期间举行谈判就很困难了。到那时，每天都会有各式各样的庆典。”4月30日，李鸿章乘坐专列快车抵达彼得堡，住进巨商巴劳辅的豪华私邸，从饮食到室内陈设，“无一非中国物”，巴劳辅“起居言语，又无一不似中国人”。李鸿章“顾而乐之，几忘身在异乡。”沙皇指派维特同李鸿章谈判。当时有人告诫维特说：“同中国官员谈判首先就是不要着急，因为一着急他们就会以为是风度不好，什么事都要干得从容不迫，一切都要遵从各种中国礼仪。”维特终于把李鸿章推进了预设的陷阱。
在彼得堡，李鸿章开始与俄国人商谈《中俄密约》。
5月3日，维特向李鸿章提出“借地修路”问题，他把“借地修路”同俄国“支持中国的完整性”联系起来，维特企图以俄国“支持中国的完整性”的承诺为钓饵，来诱骗清政府对“借地修路”这种侵害中国主权的要求让步。他说：“本欲借路速成，藉纾倭患，今中国虽认自办，但素习颟顸（mānhān），恐十年无成。”俄国提出可代荐公司承办铁路事宜。对于维特的要求和解释，李鸿章提出了“种种异议”，指出：“代荐公司实俄代办，于华权利有碍，各国必多效尤。”
维特在与李鸿章的初步谈判中虽然碰了钉子，但却从李鸿章的谈话中了解到，如果他看到沙皇想修这条铁路的话，是会同意的。因此，维特建议沙皇接见李鸿章。
5月4日，李鸿章在皇帝行宫拜会沙皇，“面呈国书，宝星，并读颂词”。5月7日，沙皇再次秘密接见李鸿章，“令带经方传话，不使他人闻知。”沙皇把李鸿章引至便殿，赐坐畅谈，说：我国地广人稀，断不侵占人尺寸地。中俄交情，近加亲密。东省接路，实为将来调兵捷速，中国有事亦便帮助，非仅利俄。华自办恐力不足，或令在沪俄华银行承办，妥立章程，由华节制，定无流弊，各国多有此事例，劝请酌办。将来倭、英难保不再生事，俄可出力援助。
李鸿章在会谈后电告总理衙门，认为沙皇的主张比维特“前议和厚”。所谓“和厚”云云，无非是指沙皇承诺“不侵占人尺寸地”、东省接路“由华节制”、援助中国对抗英、日而言。李鸿章相信了沙皇的承诺。在他的心目中，作为国主，一言九鼎，怎能会骗人呢！从5月8日开始，俄国外交大臣罗拔诺夫和维特一起，继续与李鸿章谈判。李鸿章将谈判情况随时电告总理衙门请代奏，总理衙门内部多由翁同龢、张荫桓经办，会商奕、奕劻等，请旨电示李鸿章。罗拔诺夫和维特秉承沙皇意旨，企图以签订“华有事俄助”的密约来换取“东省接路权”。而李鸿章和清政府则主张“自办接路”和签订互助条约，以期确保路权和争取外援。罗拔诺夫和维特步步进逼，李鸿章节节退让。他们之间的谈判，是从彼得堡开始在莫斯科结束的。
李鸿章于5月18日到达莫斯科，随后参加沙皇尼古拉二世加冕典礼，应邀“入宫庆贺”，“居各国专使首班，颇蒙温语”，并被授予宝星“头等第二，大小两枚，皆钻石密嵌”。沙皇对于李鸿章的接待，既优礼有加，极尽笼络之能事，又不事张扬，以免引起外国的猜忌。维特说：在《政府公报》上，关于李鸿章的消息最少，“根本没有提到他在彼得堡受接待的事，也没有提到他在莫斯科受接待以及他在加冕典礼后受到接见的情况。”
5月下旬，李鸿章认为事已至此，无法再争，致电总理衙门，说“时促事烦，求及早请旨，电复遵办。”翁同龢、张荫桓同奕、奕劻、李鸿藻、荣禄等“会商联俄事”，“将所有密电录稿公阅，遂议照办。即定议，乃拟旨一通。”28日请旨允准，29日翁同龢亲至张荫桓处拍发电旨，既批准在条约上“画押”，又要对“约内字句”做些改动。6月3日，李鸿章与罗拔诺夫、维特代表两国政府在《御敌互相援助条约》俗称《中俄密约》上签字。维特在回忆录中叙述了当时发生的一个戏剧性情节：由罗拔诺夫起草的《中俄密约》第一款，本来规定中俄军事同盟要对付“日本国或与日本同盟之国”。维特认为这会使俄国承担不必要的风险，招致许多欧洲国家的反对。他向沙皇建议删去“或与日本同盟之国”这几个字，沙皇表示赞成，并令罗拔诺夫照办。及至签字那一天，当双方代表已经在桌旁就座之后，维特突然发现正式文本上这几个字并没有删去，大吃一惊，于是立刻将主持仪式的罗拔诺夫叫到一旁，小声告诉他这件事。罗拔诺夫猛击一下前额，说：“唉，真糟糕，我忘对秘书讲了，忘记要他们把这款改写成初稿那个样子。”不过，他终究是一位外交老手，具有随机应变的本领。他看了看表，已经十二点一刻了，他拍了几下巴掌，有几个人进来，他便说：“我们现在进餐！”接着他就对李鸿章和在场的其他人说“现在已经过十二点了，让我们先进餐，否则菜就不好吃了，我们吃完后再签字。”当大家去进餐时，他特地留下两位秘书，将条约文本做了必要的改正，这样一来，餐后摆在桌子上的已经不是刚才那两份条约文本，而是有一款已做改动的文本了。可悲的是，李鸿章中了维特和罗拔诺夫串演的江湖骗子式的“掉包计”而丝毫没有察觉，立即在“改动的文本”上签了字。
《中俄密约》共六条，主要内容是：日本如侵犯俄国远东或中国、朝鲜领土时，中俄两国共同出兵并互相接济粮食、军火；战争期间，中国所有口岸均应对俄国军舰开放；中国允许俄国在黑龙江、吉林两省修筑铁路直达海参崴……
这个条约是俄国精心策划的侵略阴谋和清政府推行“联俄制日”政策的产物，它使俄国在中俄共同防敌的幌子下，不仅骗取了在中国东北建筑过境铁路的特权，而且为其海陆军侵入中国领土开了方便之门。
李鸿章在和俄国签订有失中国主权的《中俄密约》后，对外秘而不宣，便回到了中国。李鸿章心满意足地说，《中俄密约》能保证我大清国的边疆20年无事。他万万没有想到，这一密约居然连一年的时间都没有保住。
1897年德国皇帝威廉二世访问俄国，向尼古拉二世暗示染胶州湾问题，尼古拉二世表示没有兴趣。是年11月，德国的两个传教士在中国被杀，此后又有德国水手被杀，德国终于找到借口，派兵占领了胶州湾。12月，俄国借口帮助清军抗德，把军舰开进了旅顺和大连。
李鸿章这才知道自己犯了一个“引狼入室”的大错误。最后，清政府只得同意把胶州湾租借给了德国。接着，沙俄更是无耻地提出要租借旅顺、大连。清政府只得同意。随后法国提出要租借广州，这时候的清政府除了同意之外还能如何呢？此后，英国又提出拓展香港。从此，列强开始了瓜分中国的狂潮。
有关这些租界的条约，都是李鸿章去签订的。李鸿章晚年的外交生涯，居然除了耻辱就是耻辱。想当初，他曾经成功地对洋人使用所谓“痞子手段”；现在对付洋人已经手段全无，无法招架了。
对西方世界做了一次细致考察
1896年6月11日，李鸿章离俄赴德。于13日乘火车抵达德国柏林，住在恺撒大厦。
在德国，迎接李鸿章的是空前盛大的欢迎仪式。德皇派御车来接李鸿章。
6月14日下午，李鸿章拜见德皇威廉二世，代表中国皇帝向德皇酬谢其干涉还辽之事。德皇表示，希望两国友谊长存，希望大清江山永固。15日，李鸿章拜访了德国外长马歇尔，谈及英国放弃中国，短见自私，中国不能不与俄国友好。
此后数日，应德皇的邀请，李鸿章参观了德国军队。德皇特意为李鸿章准备了一把虎皮椅。看到德国军队的精良装备与高昂士气，李鸿章不禁失声说，我如果有十营这样的军队，我就不怕小日本了。
此外，李鸿章还会见了已退休的前首相俾斯麦，进行了简短会谈。李鸿章在访问德国的20多天中，总想请教德国富强的秘诀，对于有关增订洋货进口税的使命并未完成。
李鸿章被西方人称为“东方的俾斯麦”，此次在李鸿章下榻的行馆里，墙上就挂着李鸿章和俾斯麦的照片。
俾斯麦，1815年出生于普鲁士，是德国历史上著名的政治家、军事家和外交家，1862年至1890年期间一直担任首相，在普鲁士国王威廉一世的支持下，俾斯麦大力推行他的“铁血政策”，经过发动与丹麦、奥地利和法国等的一系列战争，1870年，最终实现了德意志的统一，使得德国一跃成为与英国、沙俄并列的世界强国。
在这一过程中，“铁血宰相”俾斯麦的名号享誉欧洲大陆。但是到了1890年，因与新德皇威廉二世政见不一致，产生严重意见冲突，俾斯麦被迫辞去了职务，赋闲在汉堡宅第，养花种草，颐养天年。
李鸿章的经历虽比不上俾斯麦那样传奇，但也有相似之处，他早年镇压了太平天国和捻军起义，后当上直隶总督兼北洋大臣、文华殿大学士，出将入相，在职务上应该说与俾斯麦相当了。只不过前两年在中日甲午海战中折戟沉沙，丢尽了颜面。
李鸿章之所以被称为“东方伸斯麦”，这有一段来历。那是当年他在筹建北洋水师的时候，有一次德国海军大臣柯纳德到天津拜见李鸿章，告诉他：“中堂大人，我这次乘坐的军舰，是世界一流的军舰，技术装备最为先进，欢迎您有时间过去参观。”李鸿章对武器船舰是最感兴趣的，他满口答应，约好日期前去观看。
不巧的是，正好那一天刮风下雨不利于出海，李鸿章冒着风雨来到大沽口，但是德国军舰离港口还有几十海里，他们的船只在风浪中很难前行，这时柯纳德派了一只小艇前来联络，并带来口信：“今天风雨太大，在海中行船会有危险，您这么大年纪，就不必冒此危险了，可以改日再来参观。”
随行人员也纷纷劝阻，但李鸿章参观心切，加上不想让洋人看不起，毅然带着翻译下了自己的船，登上小艇就去了。柯纳德见到李鸿章的到来很诧异，他很感慨地说道：中堂大人真是守约之人啊，这么大的风雨都如期前来，这样坚毅的性格，真像我们的首相俾斯麦。”从此之后，柯纳德逢人便说李鸿章是东方俾斯麦，“东方俾斯麦”的名号就从中国和德国传播开来。
经一天的旅途，7月5日李鸿章一行到达荷兰首都海牙。当晚他出席了荷兰政府为他举行的欢迎宴会和晚会，使他感到异常高兴和感激。由于时间紧迫，李鸿章只在这个国家访问了3天，就于7月8日离开荷兰到达比利时首都布鲁塞尔。
来到比利时的第二天，李鸿章就觐见了比利时国王利奥波尔德二世，并同比利时国王商谈了卢汉铁路的修筑问题。在比利时期间，李鸿章观看了比利时军队的军事演习，参观了军工厂，看到了“克革烈”枪炮公司的最新产品，这些给他留下了深刻印象，他对比利时的装备感到美不胜收，倍加赞赏。这位厂长看到李鸿章十分喜欢一种新式的大炮，就表示愿意赠送一尊给李鸿章。李鸿章担心一路上行程遥远，自己的船无法负担，就表示希望能送给中国。此后，这位厂长特奏请比利时国王派出专使把这门大炮运往北京。