盛宣怀办洋务的活动，开始于1872年参与轮船局的创办。
第二次鸦片战争以后，一些外国商人看中了中国沿海和内河航运之利，因而纷纷购船经营。他们不但经营一般的客货业务，还代理清朝政府运送漕粮，所以获利甚丰。一些中国的有识之士，想自己办航运夺回厚利，但由于力量单薄，竞争不过外商，所以一再失利。鉴于此，盛宣怀想借助洋务派的实力，创办轮船局，以便从外商手中夺回大利。他的意见得到了李鸿章的支持，李鸿章授权他草拟办轮船局的章程。
盛宣怀在草拟的章程中，提出了要照顾商人利益，集商股办企业的进步主张。但是参与筹办轮船局的朱其昂不同意盛宣怀的意见，他认为要将招来的商股归并官局，不能商办而要官办。而朱其昂的主张又得到了李鸿章的另两位代表陈钦和丁寿昌的支持，所以盛宣怀的意见被否决，而采用了朱其昂的主张。最后朱其昂借领官款26万两，回上海创办了招商官办性质的轮船招商公局。
这种官办的轮船局一开始就将官场的恶习带了进来。开办没有几个月就难以维持下去，因而盛宣怀又第二次接受李鸿章要他修订章程的命令，对轮船局进行改组和整顿。盛宣怀在新修订的章程中，再次强调了要照顾商情的精神，提出了一些办资本主义式企业的原则。他的意见这次得到了李鸿章的支持，并派买办出身的唐廷枢为轮船局总商办。唐廷枢在盛宣怀草订章程的基础上加以修订，肯定了盛宣怀商本商办的原意，而且还进一步提出商人在企业中应居主导地位的看法。盛宣怀则以又代表官方也有商人地位的身份，被任命为会办（总办的副职），主管漕运和揽载两项工作。
轮船招商局成立后，不到两年就发展到有轮船16艘，成为当时独霸中国航运的美国旗昌轮船公司的主要竞争对手。旗昌公司开办于1862年，历史久，实力强，为了与招商局竞争，将运费降低一半以上，企图压倒新成立的招商局。但招商局官商协力，上下一心，克服了重重的困难，不但未被挤垮，反而有所赢利和发展；而旗昌公司一年后却亏损严重，因而不得不主动提出与招商局合并。
招商局在与旗昌的竞争中，盛宣怀一直认为他们是客人，自己是主人，主人一定能胜客人。在旗昌与招商局合并时，其资产估计只有数十万两，而他们却开价二百万两。盛宣怀积极主张按其开价购买，以减少一个竞争对手。所以购买兼并旗昌公司的事，在两江总督沈葆桢的支持下，很快就实现了。这在招商局的发展史上，是一件值得重视的大事。
招商局兼并旗昌后，剩下的竞争对手主要是英商太古和怡和两家轮船公司。他们为了挤垮招商局，仍然用的是削价的办法。但盛宣怀等人认为，由于招商局垄断了漕粮的运输，而且中国商人运货愿找中国的公司，招商局的运输成本又相对比外国人低，所以竞争的结果，获利的是中国商人，而不是洋商。果然，1877年太古、怡和终于顶不住竞争，而主动与招商局签订了第一次“齐价合同”，互相不再压价竞争。但期满后，互相又开始了压价竞争，随后又有第二、第三次齐价合同的签订。招商局正是在这种与外商的激烈竞争中，得到发展壮大的。
招商局成立的时候名为官督商办，但总办是买办出身的商人唐廷枢，而官府一直没有任命“督办”，盛宣怀只是一个会办。招商局是当时官督商办的最大也是最重要的一个企业，在洋务界举足轻重。所以盛宣怀一直利用自己在官场的身份和地位，想争取当督办。正在他积极活动当督办的时候，却发生了王先谦等人弹劾招商局营私舞弊案。其中弹劾盛宣怀的，主要是两点：一为兼并购卖旗昌公司时从中贪污；另一点是从中拿了回扣。清政府派人调查的结果，是购买旗昌画押的时候，盛宣怀已回到湖北而不在上海，而付款是在画押之后，所以盛宣怀根本没有机会染指，而且付款是双方面对面成交的，根本没有中介人，所以也就谈不上有回扣。由于这个弹劾案件，1882年盛宣怀虽然暂时离开了招商局，但他却因祸得福，因调查的结果反而更提高了他在洋务派中的威望和地位。
招商局的总办唐廷枢，主要精力一直在直隶经营开平煤矿（今河北开滦煤矿），招商局的日常事务实际上由另一个也是商人出身的会办徐润主持其事。1883年世界资本主义经济危机波及上海，出现金融倒帐风潮，徐润因亏欠巨款而濒临破产。这给盛宣怀再次打回招商局创造了机会。李鸿章派熟悉招商局事务的盛宣怀去查办徐润的问题，盛宣怀借机以徐润亏欠招商局十六万二千余两为名，上奏清朝政府，将其革职。盛宣怀也因查办有功，终于得到了多年希望得到的招商局督办的职位。
盛宣怀当了招商局的督办后，总办唐廷枢也离开了招商局。盛宣怀借机对招商局的领导班子进行了整顿。为了把权力集中在督办一人手中，他取消了总办这一职务，而提拔自己的亲信马建忠和沈能虎为会办。这时盛宣怀调任天津海关道，所以招商局实际上是马建忠总负其责。
马建忠虽然是盛宣怀提拔到招商局当会办的亲信，但他并不甘心永远屈居在盛宣怀之下，而是另有抱负。所以马建忠借盛宣怀不能常在招商局直接管事的机会，独揽大权，发展自己的势力。他知道李鸿章是盛宣怀的后台，要想挤走盛宣怀，必须取得李鸿章的支持，所以就常常不通过盛宣怀，越权向李鸿章报告请示工作，李鸿章有时也直接向他发号施令。这当然引起了盛宣怀的警惕。马建忠除任招商局会办外，还兼织布局总办，又兼揽宁海金矿，这都是盛宣怀自认的势力范围，他的扩充势力，当然也会威胁到盛宣怀。所以盛宣怀就秘密让自己的另一个亲信，也是招商局的会办沈能虎，随时向他密报马建忠的动静，以找到打击马建忠的借口和机会。
机会果然很快找到了。马建忠曾将江苏漕运的费用5万两存于旗昌洋行，在存单上写明是“收到马建忠”个人的字样。后来旗昌洋行倒闭，马建忠怕露了马脚，偷偷让招商局中的翻译葛仕去旗昌，将字头改为“收到轮船招商局”。此事被沈能虎发现后，盛宣怀就让他直接上禀李鸿章，揭发马建忠图谋贪污公款之事，又指使招商局的一部分人也上书李鸿章，配合沈能虎的揭发，因而迫使马建忠离开了招商局，接着还将马建忠的一批亲信也清理出了招商局，从而进一步巩固了盛宣怀在招商局中的地位。
马建忠是离职而不是革职，所以他还有再返回招商局与盛宣怀一决雌雄的可能。盛宣怀为了堵住马建忠重返招商局的大门，就必须在经营效果上超过马建忠，以证明马建忠的无能。可是在马建忠离开招商局时，正是与怡和、太古竞争激烈，彼此竞相削价时。马建忠看清了这一形势，他等待着盛宣怀在竞争中如果失利，自己也好重回招商局收拾残局。可他毕竟斗不过盛宣怀，盛宣怀在困难的条件下，又争取与怡和、太古签订了齐价合同，使招商局的收入超过了马建忠时期，从而巩固了自己在招商局的地位。
轮船招商局是我国第一个官督商办的具有现代资本主义性质的大型企业，盛宣怀从参与创办到最后完全控制在自己手里，对招商局的发展起了积极的作用，因而在我国现代工业的发展史上具有重要的意义。