《音乐之声》取材于1938年发生在奥地利的一个真实故事。
见习修女玛利亚是个性格开朗、热情奔放的姑娘。她爱唱歌、爱跳舞，还十分喜爱大自然的清新、宁静和美丽。修道院院长觉得玛利亚不适合过与尘寰隔绝的生活。于是介绍她去萨尔茨堡当上了前奥地利帝国海军退役军官冯·特拉普上校家7个孩子的家庭教师。
冯·特拉普是个善良勇敢的爱国者，他的妻子早逝。家里没有歌声，也没有笑声。
玛利亚来到上校家中，发现上校管理孩子的方法简单而粗暴。只要他的哨声一响，孩子们就从各自的房间里以最快的速度奔跑出来，排好队，按水兵操练的要求通报自己的姓名。
一开始，孩子们对玛利亚带有排斥情绪，总是想法设法捉弄她，但是玛利亚理解孩子们在成长过程中的所作所为，她引导他们，关心他们，帮助他们，赢得了他们的信任，很快就成了他们的知心朋友，同他们建立了深厚的感情。
上校准备离家去维也纳，在这期间，玛利亚和孩子们排练歌曲、做游戏、去大自然中游玩，整个家庭平添了许多笑语、欢乐和生气，充满了音乐之声。
当上校带着准备与他结婚的男爵夫人回来时，发现家中呆板、冰冷的空气完全变了，他的“水兵们”已被训练成一支很有素养的家庭合唱队。
看到男爵夫人的到来，玛利亚知道她将成为孩子们的新妈妈，于是她留下了一封信就离开了上校家，回到了修道院。然而由于男爵夫人太一本正经，孩子们不能和她融洽相处。同时，由于玛利亚给这个家带来的变化激起了上校对生活的热爱，唤回了逝去的幸福，也唤起了他对玛利亚的爱情。于是上校最终拒绝了男爵夫人，他来到修道院找玛利亚，他们终于结成了美满的伴侣。
这时正是30年代希特勒吞并奥地利的前夕。在萨尔茨堡举行奥地利民谣音乐节的当天，上校和玛利亚接到了柏林的来电，命令上校参加纳粹的海军，并把他和全家置于严密监视之下。借着参加民谣音乐节的机会，特拉普家庭合唱队在奥地利同胞面前奉献出他们心底里的歌，并在朋友和修女们的协助下，全家跨过阿尔卑斯山，逃出了多难的祖国，来到了自由之地。