在很久以前，体育竞赛中的优胜者所获得的奖赏不是奖牌，而是一个用橄榄树枝和桂树枝编织成的戴在头上的“圈圈”，后来“圈圈”变成了桂冠。1465年，在瑞士苏黎世举行的一次游艺会上，奖给三级跳远项目优胜者的奖品是一枚金币。这可能是首次没有给予优胜者“桂冠”。1896年，第1届奥林匹克运动会的优胜者获得的就是这样的“桂冠”。
从此，人们便选择了金、银和铜三种金属，模拟钱币的样子制成奖章，分别授予冠军、亚军和第三名。1907年，国际奥委会在荷兰海牙召开执委会，正式作出了授予奥运会优胜者金牌、银牌和铜牌的决议，并在翌年举行的第4届伦敦奥运会上开始实施。
自1924年第8届巴黎奥运会起，国际奥委会进一步作出了如下补充决定：对优胜者除授予奖牌外，还同时发给证书（奖状）。
该决定对金牌、银牌、铜牌的设计、制作作了具体的规定：一、二、三等奖的奖牌直径均不小于60毫米，厚度为3毫米。其中，一等奖（金牌）和二等奖（银牌）的奖牌用银制作，其纯度（含银量）不低于9.25%，一等奖（金牌）的表面至少镀6克纯金。以上这些规定从1928年的第9届奥运会上开始执行。1928年，第9届奥运会在荷兰的阿姆斯特丹举行，其奖牌由意大利艺术家卡西奥里教授设计，图案统一采用象征友爱、和睦、团结的手抱橄榄枝的女神形像。女神左手高举花环，右手抱一束橄榄枝，女神像的旁边上侧刻有奥运会的主办地点、年代和届次。从1968年第19届奥运会开始，奖牌上标出参赛项目和名称；从1972年第20届奥运会起又刻上了获奖者的姓名。