由于当时还没有锯，他的徒弟们只好用斧头砍伐，但这样做效率太低。
工匠们每天累得筋疲力尽，也砍伐不了多少树木，远远不能满足工程的需要，眼看着工期越来越近，这可急坏了鲁班。
为此，鲁班决定上山察看砍伐树木的情况。上山的时候，由于他不小心，无意中抓了一把山上长的野草，却一下子将手划破了。
于是他摘下了一片叶子来细心观察，发现叶子两边长着许多小细齿，用手轻轻一摸，这些小细齿非常锋利。他明白了，的手就是被这些小细齿划破的。后来，鲁班又看到一条大蝗虫在一株草上啃吃叶子，两颗大板牙非常锋利，一开一合，很快就吃下一大片。这同样引起了鲁班的好奇心。他抓住一只蝗虫，仔细观察蝗虫牙齿的结构，发现蝗虫的两颗大板牙上同样排列着许多小细齿，蝗虫正是靠这些小细齿来咬断草叶的。
这两件事给鲁班留下了极其深刻的印象，也使他受到很大启发。他想：如果把砍伐木头的工具做成锯齿状，不是同样会很锋利吗？砍伐树木也就容易多了。
于是他就用大毛竹做成一条带有许多小锯齿的竹片，然后到小树上去做试验，果然不错，几下子就把树皮拉破了，再用力拉几下，小树干就划出一道深沟，鲁班非常高兴。
鲁班立即下山，请铁匠们帮助制作带有小锯齿的铁片，鲁班和徒弟各拉一端，在一棵树上拉起来，只见他俩一来一往，不一会儿就把树锯断了，又快又省力，锯就这样发明了。