关于“约法三章”这个典故，来源于这样一则故事。说的是秦二世三年，就是公元前207年，刘邦的大军顺利进入关中，驻扎在离咸阳不远的灞上。秦王子婴一看战不成，守也使不得，只好向刘邦投降。秦始皇建立的强大的秦朝帝国就这样灭亡了。
于是，刘邦大军进入咸阳城，将士们开始抢夺金银财物。刘邦也深入宫中，但见各种珍奇古玩、金银珠宝琳琅满目，又见美女如云，刘邦顿时神魂颠倒，飘飘欲仙。他没多想，就往胡亥的龙床上一躺，闭目养起神来。
这时，刘邦手下的爱将樊哙突然闯了进来。樊哙一进门就直言不讳地说：“沛公是想取得天下呢，还是想当个富翁？这些奢华之物，正是秦朝灭亡的祸根。请速还军灞上，切莫迷恋于此！”
刘邦一听，觉得樊哙之言不无道理，但他又确实舍不得离开。这时正好张良走了进来，劝道：“秦如此无道，为天下人所痛恨，所以我们才起兵攻灭他。沛公刚入秦都，便想在宫中寻欢求乐，这岂不是重蹈秦辙吗？我劝沛公切莫因为图一时快活而毁了大业！古人有言：良药苦口利于病，忠言逆耳利于行。请沛公依从樊哙之言，从速离开这里！”张良一席话，令刘邦幡然省悟。刘邦当即下令兵士查封皇宫府库，然后带领众将士返回灞上军营中。
为了安民，刘邦遍召当地父老乡亲，公开宣布说：“现与诸位父老约法三章：杀人者死，伤人及盗抵罪，其他秦时苛法全部废除！凡官吏民众，均不必惊慌。”随后，刘邦派出使者，协同各地原来的秦吏，将这著名的“约法三章”通告各地，受到秦地民众的欢迎，他们奔走相告。这一正确决策，对日后刘邦称王并建立汉王朝产生了巨大的影响。耶律楚材曾在《怀古一百韵寄张敏之》诗中赞叹道：“约法三章日，恩垂四百基。”
刘邦因“约法三章”受到民众的拥护，为他后来夺得天下打下了基础。看来，这“法”大可治军治国，小可规范个人行为。健全的法制，是国富兵强的重要保证。今天我们常说“国有国法，家有家规”，说的就是这个道理。