胡雪岩曾多次和洋商斗法，大北公司和大东公司的负责人对他并没有好感，何况盛宣怀又肯出三倍的价钱。双方于是暗中结盟，共同对付胡雪岩。
19世纪60年代，英、美、法等国数次要求在中国建立电报线，清政府一次次加以拒绝。到了70年代，清廷对列强的设线要求，无论如何也招架不住了，只得同意他们设线，但作了个“电线沉于海底，其线端不得牵引上岸”的规定。然而英美等国对清廷的规定置若罔闻，不仅设海底线，而且架设了岸线。
建立中国自己的电报线——盛宣怀与胡雪岩的心中不约而同地都有了这个念头，而他们的后台分别是李鸿章与左宗棠。此时，左宗棠已被朝廷委派为两江总督。在他即将赴任时，胡雪岩乘机提出：“左公可知李鸿章打算办电报的事？左公不日将去两江，何不也试一试，压一压他的气焰也好。”胡雪岩接着解释了电报的用途：“我们传送公文，由一个驿站送往下一个驿站。若是架上电杆用电报线，这头发，那头就能收到，速度非常快。那电报不仅在战时派上大用场，还有许多商务上的花样，架好了不尽财源一定滚滚来。”左宗棠听了急忙送上奏折，提出开办电报和通商救国的要求。
李鸿章从李莲英那里探得风声，十分生气，盛宣怀宽慰道：“太后对此事一直犹豫不定，一些王公大臣和各地巡抚都表示电报必惊民扰众，变乱风俗。左宗棠一咋呼，大家会把反对的矛头对准他。等他们都争得疲了，我们的准备工作已经就绪，然后争取太后同意，在最短的时间内架成电报线。”
没多久，盛宣怀悄悄地带着李鸿章的亲笔信来到上海，请太古轮船公司总经理郑观应出山，共商办电报之事。正如盛宣怀所料，在皇宫里，为办不办电报的事，大臣们吵个不停，慈禧认为当务之急是迫使日本归还琉球群岛，电报之事还是从长计议。左宗棠只得两手空空地南下两江。胡雪岩暂时办不成电报，也将全副精力投到他的茶叶、丝绸生意上去了。而郑观应看了李鸿章的信，大受感动，离开太古，与盛宣怀一起，开始了办电报局的准备工作。盛宣怀请示李鸿章后，先在大沽北塘海口炮台与天津之间架一条电报线，而这里正是李鸿章的防务区。天津的电报线架成后，李鸿章请醇亲王等朝廷显要亲临试验，评议很好。李鸿章这才正式奏请，并很快得到批准。
1881年盛宣怀被清廷正式委派为电报局总办，主持电报局工作。和当年主持轮船招商局一样，盛宣怀以“利商务”为原则，抵制了列强欲占中国利益的企图，成功地处理了清廷与丹麦大北公司在电报上的国际争端。他援引清廷关于海线不准上岸的规定，提出拆除丹麦大北公司吴淞线和在厦门的上岸电报线。
盛宣怀明白，如果这件事处理不好，以后的麻烦将接踵而至，电报局将无利可图。经过盛宣怀几次交涉，最后丹麦大北公司基本上按盛宣怀的意见将吴淞和厦门的岸线一并拆除。为了阻止英、美在沿海各口岸架线，盛宣怀与英商大东公司进行了谈判，在合同中提出“所有沿海各处，无论已、未开口岸，一概不准添小线，所过口岸，亦不得设线端”。
尽管如此，当时电报局的经营仍然十分艰难。因为外国电报局设有海底线，外洋电报畅通与否，都掌握在大北公司和大东公司手中。因此如何与洋人分电报之利，又成了当时的大难题。于是盛宣怀参照轮船招商局与外商订立合同的做法，与大北和大东公司订立了等价合同。盛宣怀主持的电报局对中国商业经济的发展起到了积极的促进作用。在日后的甲午战争等重大历史事件中，电报作为一种新的技术手段，在传递军事信息、发布作战命令等方面也发挥了非常重要的作用。
通过进军电报业，盛宣怀加速了其一生事业的发展，这也为最终击败胡雪岩打下了经济基础。胡雪岩以左宗棠为靠山，在数十年间，集商场、洋场、官场势力于一身，财富愈聚愈多。但他也因此得罪了李鸿章，并最终成了李鸿章和左宗棠官场斗争的牺牲品。
盛宣怀早年在创办轮船招商局时，就因胡雪岩的暗施手段而遭到弹劾，丢掉了督办之职。1878年盛宣怀到湖北勘查铁矿，开办荆门矿务总局，又遭到胡雪岩暗中诋毁，中途被调回京城。在创办电报局的交锋中，胡雪岩也让左宗棠利用手中权力设置了重重障碍。天津电报总局成立后，盛宣怀任总办，任命郑观应为会办，着手在紫竹林、大沽口、济宁、清江、镇江、苏州、上海七处设分局，一切都很顺利，惟独郑观应把架设长江电线的计划呈请左宗棠批准时，遭到拒绝——后者要在两江卡盛宣怀的脖子。
与此同时，胡雪岩托熟人混进了盛宣怀办的电报学堂，弄了几套密码出来。接着通过左宗棠上奏朝廷，开始架设长江之线。盛宣怀自然不甘心，先后邀请丹麦大北公司和英国大东公司的负责人密商电报线之事，表示只要他们不向胡雪岩提供电线器材，愿以三倍的价格收购。他还警告他们，胡雪岩大量收购丝茧垄断原料，也严重威胁了洋商的在华利益。如果为胡雪岩提供电线器材，等于为虎投食。
胡雪岩曾多次和洋商斗法，大北公司和大东公司的负责人对他并没有好感，何况盛宣怀又肯出三倍的价钱。双方于是暗中结盟，共同对付胡雪岩。胡雪岩行事也很有韧性，他不断派人与大东公司的负责人腾恩和大北公司代表道森交涉，并提高了购买价格。盛宣怀知道以后，就和大北公司商定了一个计谋。
一晃一个月过去了，道森才给胡雪岩运来一批器材。胡雪岩喜出望外，很快动工安装。谁知由于电线器材质量低劣，工程进行不到三分之一就被迫停工了。盛宣怀得信后，迅速把胡雪岩架设电线失利的消息告诉李鸿章，并要李鸿章在朝廷上予以弹劾。不久，李鸿章上书弹劾胡雪岩，说他办理不力，给朝廷带来不少损失，要求改派盛宣怀前往办理。朝廷中许多大臣也纷纷上奏，要求撤换胡雪岩。不久，朝廷下令长江电线速由盛宣怀办理架设，左宗棠只好拱手把长江电线架设一事交给盛宣怀。