重耳回国即位为文公后，第一件事就是封赏与他患难与共的有功之臣。有的赏给城邑，有的赏给官职，就连鞍前马后跑腿的人也都得到了封赏，但唯独把“割股奉君”的介之推给忘了。介之推因看不惯那些“贪天功以为己力”和“上下相蒙”的做法，便悄悄离朝回家侍奉老母亲，过起了打草鞋为生的清苦生活。邻居解张等人实在看不下去了，便写了一首《龙蛇歌》挂到宫门。歌中说：
有一条龙出行走遍天下，
五条蛇跟着为它保驾。
龙回故乡做了君主，
四条蛇也都得到雨露，
只有一条蛇在荒野干枯。
晋文公看到后，心想，跟随我出逃的主要有介之推、狐偃、赵衰、司空季子、魏武子五人，这明明是批评我没有封赏介之推。于是马上派人去请介之推，可是请了几次，介之推就是不肯到宫廷接受封赏。介母试探说：“你何不也去请求一下君主？”介之推说：“效仿狐偃的坏样子，那罪过就更大了。”并且声言，不再拿君主的傣禄。介母又说：“那也让君主知道一下。”介之推说：“话语是身体的装饰，我这身体都要隐去了，还要那装饰干啥？”介母听了高兴地说：“如果真能这样，我和你一起去隐居。”
于是，介之推搀扶老母亲一路跋山涉水，来到现在山西介休东南的绵上山，过起了隐居生活。