一次，伯牙习作一首反映海上狂风暴雨的曲子，他一连苦思冥想了好几天，也找不到动听的旋律，觉得非常苦恼，便向老师成连请教。成连考虑一下后说，他的老师方子春擅长作曲，可以带伯牙去见他，求他亲自指点。
方子春住在鲁国登州城外的蓬莱岛上，成连师徒到了那里，正巧方子春外出。于是成连把伯牙安顿住下，自己寻找方子春去了。在等待师傅和师祖期间，伯牙每天练练琴，爬爬山，观望观望海景，觉得心旷神怡，欢畅异常。
一天，他从海滩散步回家，突然天空乌云翻滚，狂风怒号，一会儿电光闪闪，雷声隆隆，下起倾盆大雨。海面上，巨浪一个接着一个扑向岸边岩石，发出一片震撼人心的轰鸣声；高山上层层密密的松树随风弯倒，互相碰撞，发出一阵阵令人胆寒的呼啸声。这风声、雷声、雨声、浪声和松涛声混在一起，交织成一支雄伟而美妙的乐曲。
眼前这动人的情景激发起了伯牙的创作热情，他奔到住处，取出七弦琴，一首反映海上狂风暴雨的乐曲创作出来了。就在伯牙非常得意的时候，成连老师在他身旁出现了，他马上明白老师故意是把自己留在这里，让他在大自然中创作动人的乐曲。此后，伯牙潜心作曲，创作出了许多优美的乐曲，其中他最满意的是《高山流水》。但是，人们虽然爱听这个曲子，却不能理解它的含义。为此，他盼望遇到一个能懂得自己这首曲子的人。
后来，伯牙遇到了一个能听懂优秀乐曲的人，名叫钟子期。一次，伯牙向钟子期弹起了一首曲子，他全神贯注，脑子里全是高山的形象。钟子期闭上眼睛，屏息凝神，细听琴音，他时而轻轻击拍，时而微微点头，脸上露出各种表情。当伯牙弹完一个段落后，钟子期赞叹说：“真妙啊，气势磅礴，就像挺拔雄伟的泰山！”伯牙没有答话，继续弹下去。这时，他脑子里全是流水的形象。和刚才弹的不同，这时的琴音一会儿高一会儿低，琴声停后余音袅袅不绝。钟子期深情地说：“真妙啊，这是看见了烟波浩渺、宽广无边的江河流水啊！”
伯牙激动地说：“你真是我的知音啊！”
分手时两人相约，一年后的今天再到这里来相会。但到了那一天，钟子期并没有来。几经打听，伯牙才知道，钟子期在不久前去世了。伯牙带了琴到他的坟地，伏在地上号啕大哭。伯牙想钟子期是自己的知音，在这个世界上，只有他才懂得自己的音乐。现在他已故去，再弹琴作曲有什么意义呢？在极度悲痛之中，伯牙将琴高高举起，朝地上狠狠摔去。