显然，在知识能力和威望上看，能胜任这一关键职位的最合适的人选莫过于斯大林了。政治局主席加米涅夫以政治局的名义提名斯大林，这一提议毫无疑问是得到党的最高领袖列宁支持的。莫洛托夫和古比雪夫被任命为斯大林的助手。这项任命作为例行公事在报刊上宣布。这时，斯大林既是中央委员会、政治局和组织局的成员，又是书记处成员，他成了当时唯一身兼四职的布尔什维克党领导人。这4个机构密切相关，使党和国家生活的各个方面都有密切的联系，这就为斯大林成为列宁的接班人奠定了基础。
斯大林被任命为总书记之后不到两个月，列宁就不能再直接领导党的政府的工作了。1922年5月底，他的动脉硬化症第一次发作。他几乎失去了说话的能力，于是便被从克里姆林宫送到莫斯科效外治疗、休养。52岁的列宁进行了一次手术，把1918年范尼娅·卡普兰行刺他时留在体内的一颗子弹取了出来。这次手术显然有希望使他的健康状况得以好转。然而不幸的是，他的动脉硬化症发作了。由于列宁顽强地与病魔作斗争，加上良好的治疗，这年仲秋，列宁又可以重新工作了。然而不久，即这一年的秋末，疾病第二次发作使他丧失了行动的能力。1923年3月，列宁又第三次发病。直到1924年1月21日逝世。
列宁去世后，苏联的革命事业又处在了一个紧要关头。这个时期，急需要有一个新的政策来激励苏联人民承担历史赋予他们的重任—一把他们的国家从十月革命推进到社会主义。这个政策就是斯大林提出的“在一国首先建成社会主义”。这个呼吁具有极大的号召力和感染力，它在党内外激起了革命的新热情。这个政策宣告：苏联人民不依赖西方。相信自己的国家有能力独立自主地创造自己光辉的未来，将一个长期落后的俄国建设成为一个先进的社会主义新苏联。
在党的第十五次代表会议上，充分讨论并通过了斯大林提出的“在一国首先建成社会主义”的政策。斯大林认定别无他路可走。工业落后而规模又小，农业原始而产量又靠不住。共产党的政权受到了资本主义国家的威胁。资本主义国家一旦作好准备，就会发起进攻，消灭共产党，摧毁革命的成果并奴役人民。他博览群书，通晓俄国的历史。斯大林深深地懂得，每当俄国国力衰弱，领导无力的时候，它就会遭受外国列强凌辱的命运。
在发展工业、实现农业集体化和建立强大经济的过程中，没有时间可以浪费。否则，新生的革命政权就很难安全地、自豪地屹立于世界民族之林。
斯大林与其洛夫（左二）、奥尔忠尼启则（左三）等在一起。这两位斯大林曾经的密友，后来在肃反和清党运动中被斯大林无情地清洗掉了。农村经济政策的实施，取得了初步的成功。连续两年的丰收使粮食产量明显提高。农业税的调整以及国家和合作社的收购组织效率的提高取得了成果。1926年7月～1927年6月一年间的粮食收成达1，060万吨，而前一年只有840万吨。不仅生产和销售了更多的粮食，而且国家的粮食征购量也增加了。这意味着2．75亿卢布的出口目标已经基本达到。
此时，国家计划委员会根据第十五次党代表大会的指示，正在制定一项全面发展工业的计划。该委员会在农业发展估算的基础上，设想了工业的逐步发展。5月底，斯大林向党提出了他的集体化和迅速工业化的新政策。他把这当作是一个挑战，是国家唯一可行的道路。
1928年12月底召开的第八次工会代表大会正式批准了工业化计划。
第一个五年计划就其范围和成就来说，实在是人类历史上一次最伟大的计划经济的尝试。虽然没有达到预定的指标，但成就依然是巨大的。而且，这一功绩在4年零3个月的时间里就完成了。
在完成了第一个五年计划以后，苏联立刻投身于第二个五年计划，这个计划提出了5倍于第一个计划时期建设的新工业，以及整个经济的技术改造。然而，正如斯大林所说的，这一任务“无疑是比较容易了”——今后的任何五年计划都不会有第一个那么困难了。五年计划成了这个国家前进的模式。
托洛茨基的“铁箍”
列宁领导的十月革命，像一块巨大的磁石，吸引了俄国的无产阶级革命家，他们像洪流一样汇集在彼得格勒，在这块革命圣地上，他们从事着前所未有的共同事业。斯大林和托洛茨基就是在这样的形势下相识与共事的。在内战前后，这“两位杰出的领袖”得到了列宁一视同仁的信赖。并被最早选为政治局委员。但是，从一开始，他们就在一系列观点上产生了明显的分歧。
不过，列宁健在时，双方的争论总是谨小慎微并有所节制的。斯大林对托洛茨基尽量表现得宽厚、客气，不带个人色彩。这甚至使托洛茨基颇受感动。那时，他曾对一位外国记者说：“斯大林是一位勇敢而诚实的革命家。”
托洛茨基在“十大”受挫以后，态度消沉，一度在家养病，并从事写作。他几乎与政治局的同事断绝了联系。与他人的一切矛盾也似乎烟消云散了。
在政治局里，斯大林显得比较谦虚，对任何人都不动声色。季诺维也夫和加米涅夫都没有对斯大林产生任何戒心。他们仍把托洛茨基当作主要对手。这使托洛茨基逐渐在中央委员会里受到孤立。但是，在知识分子和广大青年中，托洛茨基仍有相当多的支持者和崇拜者。他们不断地串连、活动，在下面组成了一支不取得多数，总书记斯大林总是先同季诺维也夫、加米涅夫碰头，然后再由总书记主持召开政治局会议。秘书处的工作人员私下里把这种“三人碰头会”称作“铁箍”。有一次，在政治局会议上，季诺维也夫与托洛茨基争吵起来，托洛茨基气得火冒三丈，布哈林出来调解。下面的工作人员则对托洛茨基说：
“难道您没有看出来您掉进了‘铁箍’？您的戏法吃不开，您是少数。”
1923年10月8日，托洛茨基在党中央会议上公开阐述了自己的观点。他在会上说：俄共（布）十二大后形成的制度离开工人民主的距离比战时共产主义时期还要远得多。他指责党的组织体制是书记等级制；认为党的领导机关已经官僚化。他还给中央委员会和中央监察委员会寄去一封言词激烈的信，阐述自己的理论观点。后来，他还召集了一些支持者和原来的反对派成员到他家开会，批评党的组织是“如同军队式”的官僚机构，要求自上而下地撤换党的负责人。他主张废除“禁止党内派别活动”的决议，争取得到更多的言论自由。不用说，托洛茨基的斗争锋芒是直接指向总书记斯大林的。表面上看，争论的焦点是宏观的政治、经济问题，是理论、观点上的分歧，但双方心里都十分清楚，问题并非如此简单。只有年轻有为的理论家布哈林等人才把这场争论看成是党内纯理论上的路线斗争，布哈林当时坚定地站在党的立场上，也就是总书记斯大林的一边，与托派分子展开了坚决的斗争，斯大林在斗争中始终处于多数地位。斯大林十分善于因势利导，注意发挥年轻党员和各级领导人的作用，在总书记周围聚集了一批党的积极分子和骨干，而托洛茨基始终处在被动的地位。
托洛茨基并没有就此退却。他召集了一些观点一致的老党员联合签发了一份“46人声明”。他们的声明信的内容是很尖锐的，是毫不客气的，正如过去批评列宁时一样。声明指责中央“没有继续前进的计划”，执行的是“工业硬性集中”、“收紧对农民的政策”、实行“劳动军事化”的经济路线。
奥尔忠尼启则成为了路线斗争的牺牲品。他自杀后，斯大林亲自为其抬棺送行。总书记斯大林仍然不动声色，他仔细地注视着对手的活动，让对手尽情出击而不对他进行反攻。直到托洛茨基把党内斗争扩展到全国的时候，斯大林身先士卒，他率领中央一班人马前往全国各地，组成强大的反托攻势，在各地党组织的会议上对托洛茨基进行猛烈的批判。参加这个批判大军的有：季诺维也夫、加米涅夫、布哈林、加里宁、捷尔任斯基、基洛夫等。他们都是政治理论家、党中央的铁腕人物和权威人士。广大党员和基层干部站在党中央一边。只有在知识分子较多的大学支部才有托洛茨基的市场。
在1924年1月17日的俄共（布）第十三次代表会议上，斯大林在报告中第一次宣读了党在十大通过的《关于党的统一的决议》中的第7条。这条规定是列宁亲自起草、并在十大会议上通过的。但这一条一直没有公布于众。现在，斯大林把它公开出来，用以反对党内派别活动。这是打击反对派的一发重型炮弹。对于托洛茨基来说，这确实是致命的一击。在报告中，斯大林从总体上列举了托洛茨基的六个错误。他说：第一条错误就在于：托洛茨基发表的文章与中央委员会的决议相对立。在斯大林罗列的这六个错误中，最根本的也是斯大林最敏感的只有一条，那就是托洛茨基不该指出“党的机关存在官僚主义”。
斯大林始终举着党和列宁的旗帜，他在党内始终占据着被多数拥护的优势地位。由于他善于诱导和发动党员群众，支持托洛茨基的人越来越少了。
在1924年5月23日召开的俄共（布）第十三次代表大会上，斯大林又一次对托洛茨基进行了系统而严厉的批判。此时，列宁已经逝世，斯大林对反托斗争更加充满了信心。
托洛茨基在党的会议上连续受到谴责以后，感到心灰意冷，无心过问党中央的工作。由于身体和情绪的原因，他离开莫斯科，到乡间养病，并从事理论研究和写作。
1925年1月，托洛茨基被解除了军事委员会主席职务，而且没有委派其他工作。这对托洛茨基来说，简直是无法忍受的。从性格上看，他是个不知疲倦的工作狂，他不甘心过清静悠闲的日子。
1925年春，托洛茨基来到克里姆林宫要求工作。于是，他得到三项任命。电气技术管理局局长、工业科技委员会主任、租赁委员会主席。一个在政治上颇有建树的理论家将要去改行搞业务工作。这跟托洛茨基的能力、经历和威望似乎根本不相称。但他没有选择的余地，对于政治上的失败者，这已经是宽宏的处理了。于是，他接受任命，开始从事技术工作。