1843年1月29日，麦金利在俄亥俄州奈尔斯里的一个小板房里降生，他在家中的8个孩子中排行第七。
童年时期，麦金利非常顽皮，当时美国正在和墨西哥进行着著名的美墨战争，麦金利常常和伙伴们一起模仿军人进行操练。
1852年9岁，麦金利进入波兰学院学习，在这里他遇到了一位非常好的老师，她是布莱克里斯小姐。据麦金利后来说，布莱克里斯小姐是除了家人之外，对自己影响最大的一个女性。
在这所学校里，麦金利最喜欢的科目是演讲，麦金利被认为是天生就是一个出色的演讲家。他还在学校里组织了一个演说和辩论协会，并担任了该协会的第一任会长。
17岁那年，麦金利以大三学生的身份进入位于宾夕法尼亚的阿尔格尼大学。但他不久就辍学了，这不是因为他不喜欢这个大学，而是因为他生病了。他生病也并非是因为他体质太弱，而是因为他学习太用功进而引起了体力的透支。
本来打算在家休养一段时间再回去上学的，但这个时候美国爆发了经济危机。这次经济危机带来的一个结果是，麦金利家陷入了经济困境，麦金利没有钱去上学了，他必须出去工作。
在此后的一年多的时间内，只有十七八岁的麦金利在学校里教过书，在邮局里做过文书。之后，南北战争爆发，他就进入军队服役。
进入军队后，麦金利几乎没有啥军衔，只是一个二等兵，次年他成为了物资供应军官。物资供应军官本来是难以有大展身手的机会的，但麦金利却用自己的经历告诉大家，物资供应军官也有表现机会。
在1862年的安提塔姆战役中，麦金利冒着猛烈的炮火，把军需物资运送给了前线部队。因为这次表现，麦金利成为了一名上校的参谋，军衔不久之后也升为中尉。
麦金利的参谋一职做的也是非常尽职的。1864年在弗吉尼亚一场战役中，麦金利冒着炮火把军令状送到了前线，并冒着生命危险寻回了一些重武器。此次战役结束后的第二天，他就晋升为上尉。
靠着这种毫无畏惧的精神，到了1865年3月，22岁的麦金利已经晋升为名誉少校。如果战争没有结束，麦金利可能会有两种命运，一是光荣牺牲，一是成为战争英雄。当然这两个结果都是因为他的勇敢。
但战争还是以联邦军队的胜利而告终，麦金利也就既没有牺牲，也没有成为英雄，而是去了阿尔巴尼法律学院学习法律。
这一次，麦金利依然没有毕业就辍学了。因为这个时候，他已经具有了进入法律界的资格。1867年3月，刚满24岁的麦金利进入了俄亥俄州的法律界。
在接下来的几年时间内，麦金利也参加过一些从政竞选活动，但大都失败了。1877年，他终于以共和党的身份成为国会议员。
从1877年到1891年，麦金利都断断续续地是国会议员。在这段时期内，麦金利最明显的一个倾向就是支持高关税。这是因为麦金利认为，高关税是对抗廉价劳动力和外国商品的必要手段。
什么事情做到极致都会产生影响，麦金利坚持高关税这件事也不例外。当时因为麦金利对自己的这个观念的坚持非常强烈，他也很快成为国会中保护主义的中坚力量，并闻名全国。
国会议员不同于大学教授那些理论工作者，国会议员是有权影响立法的。尤其是1889年的时候，麦金利成为了道路委员会主席。担任了这一职位后不久，麦金利就起草了《麦金利关税法案》，并在1890年使之在哈里森执政时获得通过。《麦金利关税法案》最大的一个特征就是用高关税，保护国内工业。
《麦金利关税法案》让麦金利名声更大，但却害了哈里森总统。高关税让国内消费品价格猛涨，这也成为哈里森谋求连任失败的最主要原因。