安迪是一家大银行的副总裁，性格内向自负，深爱自己的漂亮妻子；其妻却与她的高尔夫教练通奸并扬言要和安迪离婚。他们发生争执的当晚，他的妻子和情夫在寓所被双双打死，凶案现场留有安迪的车痕脚印和指纹，而他私人所持有的那把手枪也不翼而飞无从验证。于是，安迪因杀人罪名成立，被判两次终身监禁，不得假释。
刚入狱的那段时间，安迪不和任何人交谈，没有任何朋友，只是通过狱犯中一个专门从外面买东西带进来做交易的人瑞德手中买了一把6厘米长的小石锤，靠打磨石像来消耗时间打发单调的监狱生活。可是，苦难并没有就此轻易放过他，狱中搞同性恋的“三姐妹”常常集体围攻殴打强暴他，他在一次次的奋起反抗中几乎痛不欲生。
直到一个偶然的机会，他利用自己的金融知识帮监狱里的大队长，不交一分税就领到了一笔35000美金的遗产，他的生存状况才开始一点点得到改善。于是，他开始帮监狱里所有的工作人员申报税收，为他们所有的理财问题提供免费的咨询服务，甚至包括狱长。
与此同时，安迪从每周一封信发展为每周两封信不间断地写了6年，向高层申请拨款改建扩充图书馆，终于得到许可。肖什克监狱的犯人至此有了更丰富的业余生活，可以看更多的书，还可以听流行音乐，甚至还有人在安迪的帮助下考取了自学文凭，原本已经成为体制化奴隶的犯人在安迪的感染下，又重新燃起了生活的希望和激情。
希望是件危险的事。瑞德提醒安迪，安迪坚定地回答：希望永远都是美好的。就在安迪入狱19年后，肖什克监狱新进来一批犯人，其中有个年轻的小伙子叫汤米。当汤米得知安迪就是那个谋杀妻子和情夫轰动一时的银行家时，他说出了一个惊人的秘密。
原来汤米在别的监狱关押时，同屋是个精神容易紧张的盗窃犯，他自己承认说他杀过人，只是因为看对方不顺眼，就跟踪他回家把他杀了，当时看见那人身边还躺着个女人就顺手也一并杀掉。没想到那两个正是安迪的妻子和情夫，于是这个杀人的罪名阴差阳错地让安迪顶了，而他却顺利地逍遥法外。
瑞德和其他犯人都为安迪真正的清白和忍受了这么多年的屈辱感到震惊，而安迪似乎又看到了新生的希望，他急不可待地去找了狱长，把汤米告诉的情况说了出来，想申请此案得到重审。贪婪自私的狱长怎么会把知悉他一切受贿情况的安迪释放出狱呢，连一点可能都没有！他拒绝了安迪的要求，让他单独关两个月禁闭，并制造了越狱的假象设计打死了汤米，彻底绝了安迪的希望。从禁闭室出来后的安迪看上去又恢复了原样，仍然听话地帮狱长做账洗钱。一个电闪雷鸣风雨交加的夜晚，安迪像往常一样把做好的账本在狱长的监视下放回了保险箱，然后回到自己的单人牢房。可是，第二天早上点名时，安迪不见了，没有人知道他是怎么从这间小小的封闭的牢房里消失的。
大发雷霆的狱长亲自到安迪的牢房检视，仍然一无所获，愤怒中他随手抓起一把安迪打磨的小石像朝四周乱扔，有一颗石子打中了挂在墙上的一幅明星海报，海报破了一个洞，石子却没有落地。狱长撕开了海报，所有人都看见海报后是一个通向狱外的洞。
原来从入狱的第一年开始，安迪就用那把只有6厘米长的石锤天天在墙上打洞，把挖下来的石灰装在裤子口袋里，第二天放风时通过裤管倾倒在外面。他用大幅的女明星海报遮住所挖的洞，把小石锤藏在厚厚的《圣经》里，躲过了一次又一次的牢房突击搜查。持之以恒地干了整整19年，他终于成功了。