卡内基从安德森图书馆里借到了许多好书，养成了喜爱读书的习惯，只要一天不看书，就觉得心神不宁。安德森使他在人生的黄金时期有了读书的机会。后来卡内基事业成功时，为了报答安德森先生的帮助，在其私人图书馆的原址，盖了大会堂和图书馆，并立碑纪念这位恩人。
1853年，宾夕法尼亚州铁路公司西部管区主任斯考特看中了有高超的电报技术的卡内基，聘他去当私人电报员兼秘书，每月薪水35美元。当时卡内基已是18岁的大小伙子了，他怀着强烈的上进心走进了这个更为广阔的世界。
在宾夕法尼亚铁路公司的10余年中，卡内基平步青云，24岁就升任该公司西部管区主任，年薪1500美元，并逐步掌握了现代化大企业的管理技巧。这种技巧是他后来组织庞大的钢铁企业时所必不可少的。
与此同时，卡内基也抓住时机，初试牛刀，参与投资，而且频频得手，慢慢积累得小有资财，为他以后开办钢铁企业奠定了一定的经济基础。
1856年，斯考特劝说卡内基买10股亚当斯快运公司的股票，共计600美元。当时，卡内基的全部积蓄不过60美元，但他决心设法凑足这笔钱。他与母亲商量，母亲提出以房屋作抵押来贷款。就这样，卡内基以贷款进行了第一次投资。不久，一张亚当斯公司10美元红利的支票就送到了卡内基的手里。
不久，卡内基又充当“伯乐”，将卧铺车的发明者伍德拉夫引荐给宾夕法尼亚铁路公司，建立了一家火车卧铺车厢制造公司。卡内基通过借贷投资买下该公司1/38的股份。仅200余美元的投资，一年之间分得的股票红利高达5000美元。卡内基又抓到一只会下金蛋的鸡。到1863年，卡内基在股票投资上已成为行家里手。
1865年，卡内基果断地辞掉了铁路公司的职务，开始一门心思地干自己的事业。他创办了匹兹堡铁轨公司、火车头制造厂以及铁桥制造厂，并开办了炼铁厂，开始涉足钢铁企业。
19世纪60年代，美国的钢铁生产经营极为分散，从采矿、炼铁到最终制成铁轨、铁板等成品，中间需经过许多厂家。加上中间商在每个产销环节层层加码，致使最终产品的成本很高。卡内基深知传统钢铁企业的这些弊病，他决心建立一个面目全新的、囊括整个生产过程的供、产、销一体化的现代钢铁公司。
1872年，卡内基认为在炼钢事业上大干一场的时机业已成熟。首先，从技术上讲，成本低廉的酸性转炉炼钢法已经发明，他特地亲赴英国考察了发明者贝西默在生产中运用该法的实际情况。其次，美国的钢铁市场十分广阔，供不应求。而铁矿在美国极为丰富，密执安大铁矿已进人大规模开采阶段。再次，就财力而言，卡内基已拥有数十万美元的股票及其它财产，他决定改变四处投资的老法，将资金集中到钢铁事业中来。最后，最令卡内基信心十足的，是他在钢铁公司10余年间所掌握的管理大企业的本领。于是，到1873年底，他终于与人合伙创办了卡内基一麦坎德里斯钢铁公司。公司共有资本75万美元。卡内基投资25万美元，是最大的股东。在随后的20多年间，卡内基使自己的财富增加了几十倍。
1881年，卡内基实现了童年的梦想，与弟弟汤姆一起成立了卡内基兄弟公司，其钢铁产量占美国的1/37。1892年，卡内基把卡内基兄弟公司与另两家公司合并，组成了以自己的名字命名的钢铁帝国——卡内基钢铁公司。他终于攀上了自己事业的顶峰，成了名副其实的钢铁大亨。他与洛克菲勒、摩根并立，是当时美国经济界的三大巨头之一。
19世纪末20世纪初，卡内基钢铁公司已成为世界上最大的钢铁企业。它拥有2万多员工以及世界上最先进的设备，它的年产量超过了英国全国的钢铁产量，它的年收益额达4000万美元。卡内基是公司的最大股东，但他并不担任董事长、总经理之类的职务。他的成功在很大程度上取决于他任用了一批懂技术、懂管理的人才。时至今日，人们还常常引用他的一句名言：“如果把我的厂房设备、材料全部烧毁，但只要保住我的全班人马，几年以后，我仍将是一个钢铁大王。”
然而，卡内基之所以受到世人的尊敬，不仅是因为他是一位成功的企业家，更重要的是因为他在事业成功之后，毫不犹豫地将赚得的庞大财富，几乎全部捐献给了社会公益事业。他的后半生，主要致力于慈善事业与世界和平。
卡内基早在33岁的那一年，就在日记上写了下面的一段话：“对金钱执迷的人，是品格卑贱的人。如果我一直追求能赚钱的事业，有一天自己也一定会堕落下去。假使将来我能够获得某种程度的财富，就要把它用在社会福利上面。”
1900年，年逾花甲的卡内基已经功成名就，他踌躇满志，决定心安理得地退休，用自己的巨额财富去做他早已想做的事情。这一年，他在《财富的福音》一书中宣布：“我不再努力挣更多的财富。”于是，他毅然从他那蓬勃发展的钢铁事业中引退，以5亿美元的价格将卡内基钢铁公司卖给金融大王摩根。
然后，他就开始实施他的把财富奉献给社会的伟大计划。
1901年，他先拿出500万美元为炼钢工人设立了救济和养老基金，以向帮助他取得事业成功的员工们表示感谢。后来又帮助有志上进而家境贫穷的年轻人。只这一年，他就在纽约市捐款建立了68座图书馆。这个图书馆建设事业持续了16年，他总共捐资1200万美元，兴办图书馆3500座。
第二年，他捐款2500万美元，在华盛顿创立“卡内基协会”，由美国国务卿约翰任会长，主要用来发展科学、文学和美术事业。该协会曾建造一艘“卡内基号”海洋调查船，修正了世界航海图。此外，还在加州山顶上建造威尔逊天文台来观察太空。对这个协会，卡内基在随后的一些年里一再追加资金，累计捐款达7300万美元。
与此同时，卡内基在他的第二故乡匹兹堡创办了“卡内基大学”。后来，又在美、英各地捐资创办了各种学校和教育机构。这类用于建造教育设施的捐款，达9000万美元之巨。
在随后的几年中，卡内基又设立了若干项基金。他捐资500万美元，设立“舍己救人者基金”，对在突发事件中为救助他人而牺牲或负伤的英雄及其家属予以奖励或救济。他捐资3900万美元，设立“大学教授退休基金”，以保障教育家的晚年生活。他还设立了“总统退休基金”和“作家基金”，对美国总统或作家的晚年给予资助。此外，他向11个国家提供了“卡内基名人基金”，并以1000万美元设立“卡内基国际和平财团”，专门用于资助为世界和平作出贡献的人们。
1911年，年迈的卡内基夫妇由于10年来一直直接参与捐献工作，身心都深感疲惫，因而，卡内基决定再以仅余的1亿5千万美元设立了“卡内基公司”，让公司人员代理他们的捐献工作。
直至生命结束之前，卡内基都在为社会奉献着他的财富，其捐献总额高达3亿3千多万美元。当然，在他身后，“卡内基公司”及各项卡内基基金依然在实施他的捐献计划，况且这笔巨款还会不断地增加利息，或赚进红利，实际上他在世界上捐献的数额远大于这个数字。
1919年8月11日，84岁的卡内基在美国雷诺克斯市的别墅中因肺炎而谢世。这位出生于苏格兰的伟大人物，从不名一文的移民到堪称世界首富的“钢铁大王”，而在功成名就后，他又将几乎全部的财富捐献给社会。他生前捐赠款额之巨大，足以与死后设立诺贝尔奖金的瑞典科学家、实业家诺贝尔相媲美。