那时，离克利夫兰往东几百英里处，投机商开始交易非常珍贵的商品——石油。自1850年开始，自煤和页岩中提炼出来的煤油开始取代鲸鱼油，成为较安全可靠的能源。研究人员不久即发现，可以由中西部山谷底下蕴藏的石油中提炼出煤油。1859年8月27日，在宾夕法尼亚木材小镇泰特斯维尔旁的阿尔汉尼山谷中，“上校”德瑞克（1819—1880）安置了钻盐机器，钻出了第一口油井，自此美国的石油业蓬勃发展。之后，投机客大量涌入所谓的“石油区”，而大众对这种新燃料的需求也急速上升。钻油业者把原油装在桶子里，再把桶子滚上载运笨重货物的大平底船，船顺流而下到火车经过的据点，再由火车运往东部或西部。当时，大部分装原油的桶子都会送上大西洋暨西部铁路干线（Railroad）。那条干线往西的终点站，就是新兴的小型炼油中心克利夫兰。炼油并没有牵扯到复杂的技术，且成本低廉，只是以蒸汽加热原油，分馏出汽油和煤油。1863年时，俄亥俄州东北方沿卡玉霍加河河畔的20家小工厂，每月炼油产量就达10万桶。
洛克菲勒眼见克利夫兰商人因炼油快速致富，心动不已。1863年，洛克菲勒与克拉克合资4000美元，找了旧识安德鲁斯，三人一起设立了炼油厂。炼油厂的名称虽然响亮，叫益精工厂，实际上却只是一些简陋的木棚。安德鲁负责改进炼油效能的技术，洛克菲勒则管理其他业务，特别是在把一切利润都必须再投入公司的细节上。
当时，达尔文物竞天择的理论才开始受到大众瞩目，但炼油业似乎已成为达尔文的忠实信徒。在当时炼油行业里，只有能适应环境急速且大幅变化的公司才能生存。原油价格曾因产量突然暴增而下跌，在1861年1月到6月间，由每桶10美元跌到每桶只有0.5美元。1864年时，每桶价格则在4美元至12.13美元之间浮动。原料价格波动已使经营难度加高，油品运输问题更是雪上加霜，起因于石油运输只集中在某些铁路干线而造成垄断。激烈的竞争使利润不断下降，许多投机客不断倒闭。
洛克菲勒无法控制原油价格，只能把注意力放在他可以控制的产品成本上。装油品的桶子每只2.5美元，是公司的主要支出之一。1864年，洛克菲勒以利润再投资的方式在工厂里加设制桶设备，使每只桶子的成本降为0.96％美元。他认为增加利润的最好办法就是提高产量，因此又借钱开设第二家炼油厂，名为标准工厂。但是合伙人与他看法不同，不愿意再举债扩张。1865年2月，洛克菲勒以7.25万美元买下其他合伙人的所有权。几星期后他结束干货生意，全心投入石油业。
洛克菲勒石油事业早期的成功，全靠他自己狂热的工作和不放过任何细节的注意力。1865年，益精工厂已经是克利夫兰最大的炼油厂之一，日产505桶油品。打从一开始，美国石油业就把大部分产品销往需求量大的欧洲，作为燃料和润滑剂。仅1866年那一年，对欧洲出口就由60万桶暴增为150万桶。那时，眼光远大的洛克菲勒邀弟弟威廉加入，在纽约设立办事处，直接对海外市场促销煤油。此举使标准工厂成为第一批扩展营业范围的炼油厂之一。由于威廉直接与国外买主订约，公司建立起独立的销售管道。
为了进一步扩大公司规模，实现他的宏伟理想，他让弟弟威廉去纽约开设一家新的石油公司，开拓对欧洲的石油进出口业务，以满足欧洲那一直递增的石油需求。
在那时，石油工业有上下游之分，上游工业是指石油产地的勘探业，而精炼和销售则称为下游工业，双方的交易通过石油管理运输公司来完成。后来，由于下游的粗制滥造，不保证产品质量，使得上游工业开始自己兴建炼油厂，并进行连锁经营。由于上游那些集团力量强大，拥有先进的专业人才、知识和设备，产品质量很高，挤掉了下游工业的大部分市场，使下游工业的利润陡降33％，双方处于势不两立的地步。石油业这种新格局的出现，使洛克菲勒不得不为克利夫兰的未来担忧，于是他决心棋先一着，先垄断“下游”工业。在他的回忆录中，他这样写道：
“石油时代到来了，市场前景是无可限量的……所以我们必须扩大炼油厂的规模，提高煤油质量，而且这是首要的。……后来，鉴于当时上游下游的危机，我们想，仅靠扩大自己的规模，是不可能从根本上解决问题的。毕竟上游控制着我们下游必须的原油，主动权在他们手里，我们必须换个个儿来，垄断下游，占领石油消费市场，到时才能操纵上游，逐步实现我们的垄断。”
在垄断下游工业，进而操纵上游工业，创设标准石油公司中，亨利·佛拉格勒作出了重要的贡献。佛拉格勒是如今在美国东部财界赫赫有名的佛拉格勒家族的始祖。石油的狂潮，同样激动着年轻的佛拉格勒，他于1867年加入了洛克菲勒的队伍，成为他的左膀右臂，为后来的美孚托拉斯帝国的建立，立下了汗马功劳。
由于当时的洛克菲勒公司的实力不可能与技术力量雄厚的亚利加尼德国集团、经济力量强大的纽约和费城的权势机构相抗衡，所以最明智的办法就是借助铁路的力量，使用折扣战略来控制石油的运输。在那时只有通过并列于湖滨的两条铁路——顾尔德的伊利铁路和凡德毕尔特的湖滨铁路，精炼油才能被运到纽约或费城。而顾尔德和凡德毕尔特是当时的两位铁路大王，相互竞争非常激烈。佛拉格勒选凡德毕尔特集团为谈判对象，同时向任凡德毕尔特湖滨铁路公司董事的詹姆斯·迪贝尔将军出击了。
当时的铁路货运，主要靠石油来供养，因为大西洋一大西铁路公司的火车，通过克利夫兰城，接通伊利湖港，目的就是为了在石油的运输上有利可图。然而，多年来石油运输市场的涨跌动荡，好的时候车厢供不应求，不景气的时候却又无人问津，给铁路公司带来了很大的麻烦，运输无规律，收入无法保障，再加上激烈的竞争，经营起来极为困难。
为了贯彻折扣战略，为了取得谈判的主导权，洛克菲勒的公司包租了在亚利尼加河与产油河上下游之间从事运输的所有铁路公司的全部货厢和所有的油轮。在拿到租用证后，佛拉格勒就去找迪贝尔谈判。佛拉格勒向迪贝尔分析了一番当前的经济形势，尤其是石油工业如何的不景气，这不景气的经济会给铁路运输业带来的巨大压力，接着佛拉格勒用订立一个日运量为60节车皮的合同来“安慰”迪贝尔，并扬言如果迪贝尔不接受他的折扣战略，他就要把这些合同给予顾尔德铁路公司。如果真是这样，湖滨铁路公司就将面临与顾尔德更猛烈的竞争了，那时，迪贝尔的日子就更不好过了。所以迪贝尔只好答应佛拉格勒的条件，使得洛克菲勒公司得到了从产油区到克利夫兰支线列车运费，由公定的0.42元降到0.35元一桶；从克利夫兰到东海岸各大城市的精炼石油货运价，由每桶2元降到了每桶1.50元。同时，洛克菲勒公司还帮其他公司以低于公定价的运费来代理它们的石油运输，并收取“回报”。这些都使得洛克菲勒公司的产品有了强大的竞争力，并使洛克菲勒公司从中获得了巨大的利润。而一些公司却因运价太高，油价降不下来而失去了市场，最终亏损后被洛克菲勒公司合并。这一折扣战的胜利是洛克菲勒公司的胜利，也是洛克菲勒公司幸运的转折点！是他庞大垄断计划的第一步。
在洛克菲勒公司成立三年之后，公司的规模之大已经使有限合伙的形式不能再与之相适应了。为了促进公司的发展，提高生产效率，他们决定把它依照法律改为股份公司。于是在1870年1月，洛克菲勒创立了“标准石油公司”，原公司取消，这也就是在美国乃至世界工业史上赫赫有名的俄亥俄美孚石油公司。新成立的公司资产为100万，分成1万股，洛克菲勒得2667股，威廉、佛拉格勒、安德鲁斯各1333股，幕后支持者哈克涅斯拥有1334股，剩下2000股为其他高层行政人员分得。公司里洛克菲勒任董事长，其弟威廉任副董事长，佛拉格勒与安德鲁斯任常务董事。标准石油公司名称的由来，是根据路克菲洛所要推销的产品而定的，以标榜他所出产的石油，是顾客可以信赖的“符合标准的产品”。这也从侧面反映了洛克菲勒对自己产品质量的重视，为了赢得顾客的信赖，就要为顾客利益着想，就要保证产品的质量、性能都是优等的。所以，在他经营的产品中，从来不会发现有质量问题。这也是他赢得良好信誉的一个法宝。
洛克菲勒说：“当红色蔷薇含苞欲放的时候，只有剪除周围的别枝繁叶，才可以在日后一枝独秀，绽放出妩媚艳丽的花朵。”这就是他有名的“蔷薇花开”战略。
他还说：“我要称霸克利夫兰，买下匹兹堡，控制东部！”
在市场对石油的需求以特快的速度增长的同时，寻找市场的石油产量增长甚至更快，这使石油价格剧烈地起伏不定，经常暴跌。到了19世纪60年代末期，超量生产使得石油价格又一次飞速下跌。再加上1870年的普法战争，欧洲战场上战火纷燃，海上运输也因战火的扩延而陷于瘫痪，美国的石油出口路被堵死，更使得油价暴跌。有一阵子石油价格曾跌到每桶48美分，比油区所卖的饮用水的价格还便宜3分钱。这种萧条的状况使许多中、小型企业纷纷倒闭破产，刚刚创建的标准石油公司也面临绝境。许多石油业主纷纷转向其他行业投资，而洛克菲勒仍然保持乐观的情绪，认为在南北战争结束后，石油的需求量猛增，这次战争也一样，预示着战后的光明前景。洛克菲勒的战略远见是战争会带来进一步的垄断。于是，洛克菲勒开始在心中酝酿一个更大的计划，就是想把所有的炼油厂，合并成为一个巨大的联合体。一个真正的联合体比联营更有效，可以消减过剩的生产力，可以抵制价格的大起大落，这样或许可以挽救整个行业。这个伟大的计划用他自己的话来说，是要结束“那种无利可图的扼杀性的政策”和在他控制之下“使石油世界既安全又有利可图”。
于是，标准石油公司在统帅洛克菲勒的率领下，开始着手吞并克利夫兰的那些崩溃的石油产业。洛克菲勒说：“我要称霸克利夫兰，买下匹兹堡，控制东部！”当时克利夫兰与匹兹堡占有全美国半数的石油业，另一半在东部的纽约、费城郊区。
世界经济的不景气，给美国的铁路运输公司带来了巨大的冲击。承装运输总量的下降引发了铁路运价的循环下跌，铁路老板们被逼急了的大小油商们竞相削价要求弄得眼花缭乱，像洛克菲勒这样签订了长期运货协议的大油商，便成了他们的救命恩人。
标准石油大购并
长久以来，洛克菲勒一直认为规模扩大可使公司处于优势地位，与铁路公司的折扣交易证实了这个想法。1870年，年仅31岁的洛克菲勒，经细致考察炼油业后，决定再度扩充公司规模。尽管当时石油业混乱无序，他却能清楚看见未来的远景，以及自己公司将扮演的关键角色。凭着直觉，洛克菲勒与合作伙伴决定将所有在克利夫兰的炼油厂合并成一家公司，如此便更有本钱与原油生产商及铁路公司议价。因为“公司组织”在贷款和出售股票方面都较“合伙关系”方便，洛克菲勒便把分别经营益精和标准工厂两家合伙事业，合并成为标准石油公司。这家原始资本额100万美元的标准石油，最终成为数10亿美元的企业。
标准石油成立后，洛克菲勒向脆弱的对手提出直接了当的提议：加入标准石油，不然就面对惨酷的竞争。“我们能挽救你的事业，并按照你工厂和土地资本的比例分配盈余，或是你宁愿让我们收购你的事业，”他不加修饰地说。洛克菲勒的言辞充分反应出他严厉的个性。他像母亲一样有虔诚的宗教信仰，定时到克利夫兰优克利街上的浸信会教堂作礼拜，还担任主日学的主持人。不夸张也不情绪化的格克菲勒面对对手时，谨慎选择用字，并以锐利的眼光评估对方的反应。那些没有一开始便同意合伙提议的人，会收到简短扼要的再次警告，“据我判断，你不可能赚到更多钱，因为你绝对无法与标准石油竞争，”他告诉一位不愿点头的炼油商说，“标准石油已经拥有所有大炼油厂，如果你拒绝出售，结果只有关门一途。”
在毛利不断下降、和铁道公司打交道又困难的情况下，许多炼油厂其实欢迎洛克菲勒的提议，首批加入购并计划的包括当地最大的竞争对手克佩公司。当此合并案完成后，小厂立刻纷纷加入，短短2年内，洛克菲勒即买下23家公司，其中18家为炼油厂，只有一家不在克利夫兰。
1872年底，标准石油的产能已提高6倍，日炼1万桶油。标准石油在控制克利夫兰80％的炼油厂后，成为全美最大的炼油公司。有人认为洛克菲勒的公司膨胀得太快也太大了，克利夫兰炼油商汉纳就曾说：“标准石油没有前途，它会被自己的重量压垮。”但在那个年代，规模大是生存的先决条件，标准石油吞噬竞争对手，就像熊饱食以应付寒冬一般。