由于摩西在米利巴以杖击石取水时的过失，注定了他不能进入迦南。
这时，以色列人已经抵达约旦河西岸，与迦南的耶利哥城相对。
上帝对摩西说：“你要上亚巴琳山，遥望我要赐给以色列人的土地。你看过以后，就要死了，像你哥哥亚伦一样。因为你们两人在寻的旷野违背了我的命令。当全体会众在加低斯的水泉米利巴埋怨我的时候，你没有在他们面前承认我神圣的能力。”摩西祷告说：“主上帝啊，你是生命的源头。求你指派一个人做全会众的领袖，能率领他们作战，好使你的子民不致像没有牧人的羊群。”
上帝对摩西说：“嫩的儿子约书亚是个有才能的人，你要将手按在他的头上。你叫他站在祭司以利亚撒和全体会众前面，当着他们的面，宣告他是你的继承人。你要把你的权力分给他，使以色列会众服从他。他要听从祭司以利亚撒的话。这样，以利亚撒将指导约书亚和以色列全体会众的一切行动。”
摩西知道自己的使命就要结束后，在这一年里，他为自己的后事做了一系列的安排。他把已经占领的约旦河以东的土地分给流便、迦得两个支派以及拿玛迦的半个支派，然后，他遵照上帝的命令，叫约书亚站在祭司以利亚撒和全体会众面前，用手按在他的头上，宣告他是自己的继承人。
摩西又根据四十年来的经验，对现行法典补充了新的条文和教规，对新一代重申了献祭和许愿之例。
按照上帝的吩咐，他把约书亚带到会幕前聆听上帝的旨意，又写下了颂扬上帝的诗歌，并当众朗读。最后，他留下遗嘱，要以色列人严守上帝的诫令，并一一为以色列各支派祝福。
最后，他与自己的人民诀别，独自一人登上与耶利哥相对的毗斯迦山顶，告别了人世，应了上帝所说的他不得进入迦南的预言。
上帝将摩西葬在伯毗珥对面的山谷中，但至今没人知道他的坟墓在什么地方。
摩西去世时一百二十岁，眼睛没有昏花，精神没有衰败。以色列以后再也没有出现过像他这样杰出的先知。在摩押平原，以色列人为摩西哀悼了三十天。