这是一个三次从东京到雪国和艺妓交往的故事。
穿过县界长长的隧道就是雪国。夜空下已是白茫茫一片，火车在信号所前停了下来。年轻舞蹈“研究家”岛村由东京乘这趟车去雪国，原想去那里看望艺妓驹子，不料在车上遇上了驹子的未婚夫行男，他因患重病返乡休养。护送他的是同乡女护土叶子。叶子是一个面容异常美丽而严肃的姑娘，声音幽雅而悲切。岛村长久地偷看着她映现在玻璃窗上的姿容，他的心被这位姑娘牵动了。
岛村家住东京的工商业区，他依靠父母的遗产过活，闲得无聊，就出外游山玩水嫖女人。
下了火车后，在雪国的温泉旅馆里岛村与驹子重逢了。他回想起去年第一次与她相识的情景。那是一片嫩绿的5月，他来山村登山，以唤起自己早已丧失的对大自然的真诚感情。一天，他想要一个温泉场的艺妓陪他玩，女佣人给他找来在宴会上帮忙的一位姑娘。她，就是19岁的驹子。他们很快在音乐舞蹈方面找到了共同语言，驹子当时虽然还不是正式的艺妓，却出于对岛村的爱慕而委身于他了。那次离别驹子时，他还许诺给她寄舞蹈书刊来，但这许诺他并没有兑现……这次重逢，已是正式艺妓的驹子又和他住在一起了。
黎明，驹子照着镜子，镜子里映出耀眼的雪白的光，衬托着驹子鲜红的脸蛋和闪着紫光的长长的黑发，岛村觉得驹子有着无可比拟的美。
岛村在温泉旅馆听到女按摩讲驹子的身世。驹子虽然对行男没有爱情，但为了帮助他治病，便甘愿下海当了艺妓，而叶子却一直守护在行男身边，真心爱着这个行将就木的男子。她们这种感情，在岛村看来，都是一种纯粹的徒劳。
黄昏，山顶的积雪映着余辉，现出一片火样的红云，山峦起伏，层次分明。正当岛村沉浸在这大自然的美景中时，驹子来到了。她深情地告诉岛村，在滨松还有一个男人想和她相好，曾不离左右的硬逼着要跟她结婚，可是她不喜欢他。在交谈中，岛村问到了她和行男的关系，驹子毫无保留地告诉了他。原来师傅曾有过让她和行男相好的想法，可是他没有明确提出来。不过她也确实没有爱过行男，两个人并没有什么关系，尽管二人从小在一起长大。在其后的几天里，驹子对岛村的爱愈加狂热了。
她为岛村弹琴，琴声孤独中暗藏着野性的力量，驱散了哀愁。岛村被完全征服了，他感到自己已经没有力气，只好愉快地投身到驹子那艺术魅力的激流之中，任凭它漂浮、冲激。尽管这时他对驹子已经着了迷，但是，他的脑海中很快浮现出了另外一个念头，他觉得驹子这种生活是徒劳无益的，也可以说是对未来憧憬的悲叹。驹子觉得跟岛村在一起很幸福。不过，随着时间的推移，她的心里开始烦恼和难过起来，深深陷入了矛盾之中。一天，她无可奈何地对岛村说：“你还是回东京去吧，我心里真难过啊！”岛村麻木地回答道：“就是老待下去，我也想不出主意对你怎么办才好啊。”他那颗颓废的心觉得连自己的存在也是毫无意义的，更何况是驹子的爱呢。于是，他决定起身回东京。
就在驹子去火车站为岛村送行的时候，叶子喘着气跑来说，行男快死了，但驹子却执意不回去。火车启动了，岛村望见驹子的脸在候车室的亮光中闪闪浮现，那面貌和早晨驹子映在镜中那张红扑扑的脸一样美丽……
次年的秋天，丘陵上盛开着白色的小花，闪烁着一片银光，岛村第三次来到了雪国。驹子柔声地责怪他没有赴约来参加2月间雪国孩子们的赶鸟节，而她却为了岛村，提前离开了病重垂危的师傅。“你了解我的心情吗？”驹子一再问。驹子一五一十地告诉岛村，师傅已经死了，她已经和主家订了4年合同，只要自己多赚些钱，也可以缩短两年，可她不想勉强去做这种事。
早晨，驹子回去后，岛村也到村子里去散步。在坡上的路边，岛村又看见了叶子。她包着头巾，穿着雪裤，一边打红小豆，一边唱着歌，歌声有点近乎悲戚。据说，叶子每天早晨都要去给行男上坟，每天都念着在火车站做工的弟弟。
驹子一有机会便来找岛村，有时她来到客店醉得连脚板都泛红了，模样显得特别好看，原来她是从别人的宴会上溜过来的。驹子充满真情认真地说：“唯有女人才能真心实意地去爱一个人啊！”但岛村并不这样看，他总觉得驹子的爱情是一种美的徒劳。不过，即使这样，他还是可怜驹子，也可怜自己。后来，不知怎么地，岛村被叶子深深地吸引住了。有一次叶子代驹子来给岛村送信，岛村问她：“听说你临睡前总在温泉浴池里唱歌，是吗？”叶子慢慢转过头去说：“驹姐是个好人，顶可怜，请你好好待她。”但过了一会儿，又忽然用很庄重的声音说：“请你带我一起到东京去吧……驹姐可恨。”“你为什么恨驹子？”岛村禁不住问。“驹姐？”泪水从叶子的眼角簌簌地流了下来。岛村把这件事告诉驹子，驹子神经质地说：“每当想到她在你身边会受到你的疼爱，我在山沟里过放荡生活这才痛快呢。”岛村大吃一惊。深夜，岛村陪驹子回家，看见在昏暗的灯光下，横七竖八躺着一家老小的图景，使他感到在清贫孤寂的家中，也充满了一种刚劲的力量。
岛村这次与驹子相处了很长一段时间，现在，他准备回东京去了。临动身的时候，他忽然想起雪是绉纱之母，雪国历来盛产优质绉纱，便决定到绉纱产地旧址去看看。以后，再借机离开驹子。
绉纱产地旧址，房破柱斜，呕心沥血的工人早已长逝。岛村触景生情，浮想联翩，向自己内心发出疑问：“难道凡是充满诚挚爱情的行动，迟早都会鞭挞人的吗？”归途中他碰上了驹子，驹子责怪岛村是“薄情郎”，没带她一同去玩。正在这时，忽然警钟长鸣，雪国的蚕房起火了。浓烟滚滚，火舌飞卷，火势越来越旺，吞噬着一切，仿佛要把大地拥抱过去。驹子不由自主地向火场跑去。她对赶上来的岛村解释说：“我是担心村里的人。”驹子边跑边向岛村表白：“银河，美极了。”“你走后，我要正经过日子了。”“啊！”叶子从蚕房二楼坠落下来，驹子一声惊叫。岛村的脚尖惊得痉挛起来，一种无以名状的痛苦和悲哀向他袭来。他望着燃烧的叶子，觉得她并没有死。她内在的生命正在升华，变成另一种东西。驹子踉跄着冲过去紧紧地抱起叶子，就像抱着自己的牺牲品和罪孽一样。有人在后面说：“这孩子疯了。”岛村企图靠近驹子却不能实现，他抬头望去，银河好像哗啦一声向他的心坎倾泻了下来。