在巴库，柯巴曾被逮捕，在监禁了8个月之后，被流放到沃洛格达省索里维切果茨克，流放期为两年。1909年6月，柯巴从流放地逃了出来。一回到巴库，他便立即着手《巴库无产者报》的复刊工作，并在报上发表了《论即将到来的总罢工》的文章。
1911年9月，柯巴来到彼得堡后，与列宁的联系更加密切了，开始了他革命生涯中的新的历程。
来到彼得堡，年轻的柯巴结束了他革命斗争生涯中的高加索一章，将自己今后的精力投身到全俄国的革命斗争中去并正式用名为：约瑟夫-维萨里昂诺维奇·斯大林。
成为党的总书记
1905年1月22日，俄国革命终于爆发。
随着革命运动的高涨，彼得堡、莫斯科及全国各地纷纷建立苏维埃。11月底，斯大林参与筹备高加索布尔什维克第四次代表会议，在这次会议上，他被推举为出席全国代表会议的代表。12月12～17日，斯大林以俄国社会民主工党高加索联盟代表的资格出席了在芬兰坦默福斯举行的全俄布尔什维克第一次代表会议。在这次代表会议上，列宁和斯大林第一次直接会面了。斯大林在代表会议上被选进负责编写代表会议决议的政治委员会。
1917年10月，列宁当选为全俄苏维埃政府第一届人民委员会主席。这是他向出征的红军部队讲话。俄国第一次革命失败后，沙皇制度重又站稳脚跟。工人运动的浪潮急剧衰落。当革命高潮时，有200多万工人参加了罢工。1908年只有17．74万工人参加罢工，1909年只有6．4万人参加罢工，1910年仅有4．6万人参加罢工。言论、结社和新闻的有限自由也大部分被取消了。党组织遭到严重破坏。很多中央委员被捕，更多的党员被判处苦役，遭到监禁和流放。小资产阶级知识分子纷纷离开了党的队伍，部分不坚定的工人脱离了党的秘密工作。党组织的成员大大减少，各级党组织间的联系削弱了。
面对革命的失败，俄国社会民主工党内部出现了两个主要的机会主义派别：一是以孟什维克为代表的取消派，主张只把工作重心放在合法组织上，取消党的秘密组织和停止秘密的革命工作。二是布尔什维克内部出现的召回派，主张只把工作重心放在秘密的党组织上，放弃合法的工作形式，并从杜马中召回社会民主党党团。列宁既反对取消主义，又反对召回主义，主张在秘密党领导下把秘密工作和合法工作结合起来，即既要利用秘密行动的方式，也要使用合法的形式，包括国家杜马的讲坛、工会、合作社、俱乐部以及其他合法组织。实行这种策略的目的就是要保存和聚集力量，以便在有利条件到来之机发动新的革命进攻。
在两次革命之间的革命低潮期，斯大林一直在俄国坚持秘密革命活动，并且从一个地区党的工作者成长为全党的领导人之一。沙皇政府竭力设法剥夺他从事革命活动的机会，接连不断地用逮捕、监禁和流放手段来对付他。从1902年第一次被捕算起，到1913年间，斯大林先后被捕七次，流放六次，同时也从流放地逃走五次。只有最后一次流放，才是由1917年“二月革命”把他解救出来的。
1912年1月，党内生活中发生了极为重要的事变。俄国社会民主工党第六次全俄代表会议于1月5日～17日在布拉格召开。在这次代表大会上，列宁创立了新式的党，即布尔什维克党，而且把孟什维克从党内驱逐出去。会议选出了以列宁为首的俄国社会民主工党中央委员会，一些在艰苦年代里经受锻炼的地方党的工作人员被选人了中央委员会。在巴库地区表现出色的奥尔忠尼启则和斯潘达梁均当选为中央委员。根据列宁的提议，斯大林被增选进中央委员会。
在第一次世界大战中，由于沙皇政府的腐败无能，俄国军队屡遭失利。德国军队占领了波兰、波罗的海沿岸和白俄罗斯的一部分地区。成群结队的百姓流离失所，广大民众对沙皇政府的不满情绪日益增长。在布尔什维克党的引导下，广大工人群众首先起来斗争。1914年后半年，全俄不同地区的工人先后举行了70次罢工，1915年罢工运动超过1，000次，1916年达1，500次，参加人数多达100万以上。在工人运动影响下，士兵厌战、反战情绪日益浓厚，成百上千的士兵逃离前线，不愿再为沙皇政府卖命。与此同时，俄国许多地区的农民也展开了斗争，他们打开地主的粮仓，赶走地主，烧毁庄园，分掉了地主的牲畜和农具。俄国的欧洲部分如此，亚洲部分也积极行动起来。1916年，中亚和哈萨克斯坦先后发生了几万人的起义斗争。
在国内轰轰烈烈的民众运动此起彼伏、人民大众已经觉醒的条件下，1917年2月26日，布尔什维克党号召人民举行总起义，成立临时政府。工人首先响应布尔什维克的号召，士兵也转向起义。到第二天晚上，已有6万多士兵转到革命方面来。起义的工人和士兵很快就取得了重大胜利，他们逮捕沙皇政府的大臣和沙皇军队的将军，释放政治犯，并在当天晚上举行了彼得堡工人士兵代表苏维埃第一次代表大会。
在革命的紧要关头，斯大林参加了布尔什维克党的领导工作，他团结全党，为了变资产阶级民主革命为社会主义民主革命而斗争。斯大林坚决拥护列宁的“变帝国主义战争为国内战争”的主张，并发出号召，“撕下帝国主义的假面具，使群众认清这次战争的真实内幕，这也就等于向战争真正宣战，使现在这种战争不可能再打下去”。
在列宁的号召领导下，1917年10月24日希尔什维克党开始了夺取政权的斗争。起义总指挥斯大林和领导成员斯维尔德洛夫和捷尔任斯基始终留在革命军事委员会里。他们制定了详细的起义计划。
1920年，斯大林与苏共其他领导人在一起。1917年10月25日晚10点45分，第二次全俄苏维埃代表大会在斯莫尔尼宫开幕。革命政权诞生的第二天，即10月26日夜间，第二次全俄苏维埃代表大会通过了《和平法令》和《土地法令》，并成立了第一届苏维埃政府——人民委员会。列宁当选为第一届人民委员会主席，斯大林任民族事务人民委员。具有历史意义的十月革命，仅在一昼夜间就取得了决定性胜利，几乎没有流血。
十月革命的惊涛骇浪，把斯大林推到了无产阶级司令部的领导岗位上，他有生以来第一次开始和列宁、斯维尔德洛夫、加米涅夫、托洛茨基、季诺维也夫、布哈林等最早的老布尔什维克一起共事。他那敏锐的眼光和冷静的思考使他看到了每个人的长处和优势。他早已看出列宁是比别人更胜一筹的“山鹰”。每次党内出现激烈的争论时，斯大林总是与列宁站在一边。正如他自己所说：我深信列宁是一个非凡的人物……是一个典型的最高领导者，是一只“山鹰”，他在斗争中不知恐惧为何物，大胆地引导我们党在前人未曾走过的俄国革命运动的道路前进。
在关于与德国和谈的布列斯特和约的辩论中，斯大林尽管没有什么固定的见解，但在关键时刻他还是站在列宁一边，投了赞成票。这对于他日后的晋升和掌权，对他个人的命运，对整个国家的前途和命运来说，都是非常关键的一票。
还在《布列斯特一里托夫斯克和约》签订之前，俄国南部地区就已经发生了内战。和约签订之后，刚刚诞生的苏维埃政权依然面临着十分严峻的考验。国外帝国主义对红色革命政权虎视眈眈，国内矛盾也日益复杂化。为了巩固苏维埃政权，1918年3月，红色革命政权的首都从彼得堡迁到了莫斯科。这次迁都在苏俄历史上以及斯大林个人生活中，都具有深远的影响和意义。
在十月革命取得胜利之后的几个月里，苏维埃政权利用签订和约这样一个喘息的机会，开始在俄国中部、莫斯科、彼得堡等主要城市牢固地确立了自己的地位。但是，沙皇将军和官吏、地主、富农和资本家们仍然不承认工人阶级取得的胜利。他们在十月革命初期的一些战斗中受挫之后，便开始在工业无产阶级力量比较薄弱而富农势力比较强大的顿河地区、库班地区和乌克兰地区聚集并巩固反革命武装力量，继续和新生的革命政权进行残酷的较量。
1918年5月底，关于察里津军政两方面危急情况的报告传到了莫斯科。在这生死存亡的紧要关头，列宁和中央委员会派斯大林到那里去组织输送粮食。斯大林把那些腐化堕落和办事不力的官员撤了职，解散了一些不必要的革命委员会，任命了一些政治委员去整顿劳工和运输组织，以确保对莫斯科的粮食供应。
1918年7、8月间，伏尔加河流域一带的形势继续恶化。8月13日，斯大林宣布察里津处于戒严状态。经过充分的思想动员和大量的组织工作，察里津的工人阶级为部队提供了大量的新的战斗装备，他们修好了300门大炮，制造了11辆装甲列车和18辆装甲汽车。察里津市的许多工厂都在积极地为红军生产枪支弹药，数以万计的市民加入到挖战壕和修筑阵地工事的行列中。为了与机动性强的哥萨克骑兵作战，斯大林又组建了几个用大量机枪和大炮装备起来的加强师，原红军骑兵部队改编成更大的炮兵部队。为了有力地支持步兵和骑兵作战，组建了装甲纵队，由工人出身的英雄战将阿利亚勃耶夫负责指挥。所有这些有效的措施，大大加强了察里津的防卫能力，并且有能力在一些地段发动战役性的进攻，从而打破敌人的封锁和包围。就这样，在斯大林英明的指挥下，察里津的保卫者一次又一次地打退了敌人的疯狂进攻，保住了这座英雄的城市，保住了革命的政权。
斯大林、列宁、托洛茨基（自左至右）旧照。列宁去世后，斯大林与托洛茨基决裂。在保卫察里津的英勇战斗中，斯大林表现出了卓越的军事领导才能、坚不可摧的意志和旺盛的革命斗志；在战斗中，他和战友们开创了新的、更高的战略和战术范例，他们巧妙地采用了步兵、骑兵与炮兵、装甲列车和伏尔加河军舰的协同作战方式，粉碎了强大的敌人多次夺取察里津的一切企图。鉴于斯大林在保卫察里津的卓越贡献，依照劳动人民的请求，这个光荣的革命城市被命名为斯大林格勒。这是党和人民对斯大林伟大功绩的最高赞赏和肯定。
1918年10月23日，斯大林奉命回到莫斯科。为了迎接光荣归来的英雄，列宁派共和国主席斯维尔德洛夫乘专列亲自去接斯大林，而且还为他举行了隆重的欢迎仪式。
由于卓越的军事指挥才能，斯大林在党内外群众中的威望日益提高。他是一位既有工作能力，又敢承担责任的、讲求实效的领导人。他虽然不是了不起的演说家，但是他的发言总是很有道理。他还是一个能克服官僚主义的重重障碍作出果断决定的人。他受到人们高度尊敬也表现在党的第八次代表大会上。在所有代表选举中央委员会的选票上，他都是名列前茅的。这次大会还成立了中央委员会的两个小组委员会：指导党的政治事务的5人政治局和负责人事与行政事务的组织局。斯大林同时被任命为这两个局的委员。此外，他还担任了国家监察局委员，主要负责防止官僚主义滋长这一艰巨而重要的工作。如同组织局的工作一样，他负责的新人民委员部也是承担了不轻的工作。但是不管怎么说，这是必不可少的组织工作。在斯大林的领导和管理下，这些部门的工作很快就取得了突出的成绩。
斯大林很少在大会上发表演说，即使有时发表一些讲话，也大都很简洁。他是个能够冷静地分析人和局势的现实主义者，而且做出的结论通常都是慎重稳妥的。斯大林在国内战争和对波兰地主军队的战争中，作出了非常突出的贡献，并获得了红旗勋章。在党内，斯大林以言语文静、行动果敢而著称，被公认为是一个有决策能力和有权威的领导人。在连年的战争和革命之后，苏维埃政府面临着重建国家的艰巨任务，斯大林很明显是一个能够承担特殊责任和使命的人物。
内战之后，斯大林很快就担任了3个重要的职务：民族事务人民委员、工农检察院人民委员和政治局委员。
在尖锐的社会矛盾和党的斗争中，斯大林没有参加任何派别活动，没有介入过多的具体经济工作；没有卷入纷繁复杂的思想斗争漩涡。他只是对这些斗争细心地观察和进行分析，只是在适当的时候支持党和列宁，对反对派原则地评论一番。他的策略是稳妥而深思熟虑的，因而深受列宁的赏识。
斯大林最大的竞争对手托洛茨基在“十大”会议上受到批评后一蹶不振。他埋头于经济工作和理论研究，很少过问政治局的工作。他的支持者从中央领导层纷纷落选。新当选的中央委员如伏罗希洛夫、奥尔忠尼启则、莫洛托夫、古比雪夫、基洛夫等人都是斯大林所信赖的人，都是斯大林的支持者。他们已陆续被安排在斯大林重点管辖的少数民族地区工作：奥尔忠尼启则是中央高加索局的领导人，卡冈诺维奇、基洛夫、莫洛托夫和米高扬分别是土耳其斯坦、阿塞拜疆、乌克兰、亚美尼亚等地区的领导人。
斯大林的另一个有利的地位是在政治局。在整个内战时期中，政治局只有5名成员：列宁、托洛茨基、斯大林、加米涅夫和布哈林。自从布尔什维克党和社会革命党人之间的联合破裂后，这个政治局成为国家的实际管理者。列宁是政府和党公认的领袖，托洛茨基负责指挥内战，加米涅夫在各方面都是列宁的副手，布哈林负责出版和宣传，而斯大林则负责党的日常管理工作。政治局是讨论重大政策的地方。另外一个机构是组织局，它同政治局一样是由中央委员会选举的，负责党的人事工作。它可以按照内战的需要，在整个军队和行政机构中召集人员、指导工作和分配工作。从1919年初起，斯大林就是政治局和组织局之间唯一的常设联络员。他保证了政策和组织之间的团结一致；也就是说，他按照政治局的指示，调配党的各种力量。
1921年，列宁的健康状况开始下降。
第十一次党代表大会定于1922年3月召开。为此，列宁精心作了准备。会议通过了列宁在开幕式所作的报告中提出的各项方针政策，列宁本人带病参加了开幕式和闭幕式大会。党代表大会结束后的第二天，即1922年4月3日，宣布了任命斯大林为总书记这一新的职务。设立总书记这一职位，目的是协调复杂的党内各部门之间的关系。另一种打算是，将行使书记处能够对全体党员进行更加严格的考察，并保证以后可以仔细挑选出更合格的党的代表大会的代表。