35岁的赫鲁晓夫来到莫斯科，在斯大林工业学院学习冶金，并担任学院党委书记。1935年，由于他监督建成莫斯科地铁，被授予列宁勋章，并在这一年当上莫斯科市长。在斯大林搞大清洗运动期间，赫鲁晓夫积极支持斯大林的工作，并参加了在党的领导层内进行的大清洗工作。到1939年，赫鲁晓夫成为政治局正式委员。在1941～1949年这一段时间内，赫鲁晓夫都在地方工作。1949年，斯大林把他调回莫斯科，重新担任莫斯科市委第一书记，同时兼任全苏中央委员会书记。在斯大林去世以前，赫鲁晓夫在莫斯科的日子过得并不舒心。政治嗅觉敏锐的他知道自己只不过是斯大林宫廷政治的一颗微不足道的棋子。为了不成为政治斗争的牺牲品，他夹起尾巴做人，从不愿在斯大林面前展现自己；并且也因为莫斯科大规模重建，面临着许许多多的问题。但他十分关注莫斯科州的农业问题，开始在莫斯科州推行其“农业城镇”的计划。但由于不切合实际，当时掌管农业工作的中央政治局委员马林科夫认为他的思想还不成熟，并且斯大林对此也不喜欢。于是赫鲁晓夫的天才设想就暂时被扼杀了。
但这并没有使他在斯大林心目中的地位有所动摇，在1952年10月5日召开的党的第十九次全国代表大会上，赫鲁晓夫进入主席团常务委员会，五个常务委员会成员负责处理国家最重大紧要的问题。1953年3月5日，斯大林病逝，但他没有交代好接班人问题，因此赫鲁晓夫等人为了取得最高权力相互之间展开了明争暗斗。
斯大林病逝后，赫鲁晓夫最害怕的是最高权力落于野心家、阴谋家贝利亚之手。如果贝利亚得手，对党和国家有百害而无一利，因此赫鲁晓夫想方设法加以阻止。
除了贝利亚想攫取最高权力外，马林科夫也有同样的野心。在这场激烈的争斗中，赫鲁晓夫小心翼翼地活动着，他不想因一着不慎而导致自己翻船。赫鲁晓夫首先与布尔加宁就此问题达成一致意见，但仅凭两人的力量显然不行，在他的积极活动下，又取得了朱可夫的支持，这对他是一个很大的鼓舞。但必须得到马林科夫的首肯，因为马林科夫一直是斯大林班底中最有权势的人物。可他想不到的是，老奸巨猾的贝利亚已抢先一步说动了马林科夫，两人在权力分配问题上取得了一致意见，这样马林科夫和贝利亚两人暂时结成同盟。面对强大的两个权势人物的联盟，赫鲁晓夫暂且屈服了。他想隐忍下来以相机而动。
贝利亚掌握着强大的国家安全机构——内务府，起分支机构和特工人员遍布于全国上上下下所有的组织和部门中。并且，贝利亚也统辖着保护克里姆林宫及所有苏维埃政府中高官和中央主席团成员的卫队。贝利亚趁为斯大林举行葬礼之机，将大部分军队调到首都附近，有的团队干脆在市内屯扎。这样做目的非常明确：发动军事政变，夺取最高权力。贝利亚的帮凶们也积极谋划，为贝利亚夺权扫清道路，他们将“医生谋杀案”的凋查局头子清除出去。当然贝利亚对赫鲁晓夫也不敢放松警惕，他密切注视着赫鲁晓夫的一举一动。自然，贝利亚的这些活动也在赫鲁晓夫的掌握之中。他意识到贝利亚快要动手了。
为了尽快采取行动，逮捕贝利亚，赫鲁晓夫终于下定决心去说服马林科夫，以取得他的支持。马林科夫虽与贝利亚结成了临时同盟，但无时无刻不在提防着贝利亚，而且他也受不了贝利亚那种唯我独尊、颐指气使的傲慢劲。他知道，贝利亚根本没把他放在眼里，而且正妄图取得最高权力。因此马林科夫以为是采取行动的时候了，他同赫鲁晓夫共同制定了逮捕贝利亚的行动计划，并决定在部长会议主席团或中央委员会主席团的某次会议上采取行动。
7月，部长会议主席团和党中央主席团将要举行一次联席会议。在会议召开前夕，马林科夫就解除贝利亚职务问题取得了伏罗希洛夫的认可。赫鲁晓夫同米高扬商谈，但未取得他的支持。但赫鲁晓夫管不了那么多了，他必须立即动手。回到克里姆林宫后，知道了伏罗希洛夫的态度，他知道可以动手了。于是他找了个地方坐下，专等贝利亚进来。贝利亚进来落座后，会议开始了。除了米高扬外，大家一致谴责贝利亚。马林科夫早已等得不耐烦了，他按计划逮捕了贝利亚。这样赫鲁晓夫和马林科夫少了一个强有力的竞争对手。
赫鲁晓夫深知马林科夫野心也不小，也是自己通往最高权力的一个障碍，必欲除之而后快。贝利亚被逮捕后，马林科夫成了权势人物，但随着内务部——国家安全部领导集团的解体，权力重心已经发生了转移。作为部长会议主席的马林科夫有事必须向取得最高权威的党中央主席团和书记处汇报。并且已经倒台的贝利亚又栽赃陷害他，使得他非常被动。1953年9月，赫鲁晓夫当选为党中央第一书记，马林科夫逐渐退出权力重心。在纷繁复杂的权力斗争中，赫鲁晓夫技高一筹，逐渐取得最高权力。
曾在30年代斯大林发动的大清洗活动中积极参与并对斯大林的工作予以积极支持的赫鲁晓夫，并不是不想出人头地。但在斯大林面前，善于伪装的他总是夹紧自己的尾巴，老老实实做人。但当他大权在握之后，他已无须再忍了，以前的卑卑怯怯代之以大胆行动。
2月14日，苏共二十大正式召开。2月24日晚，赫鲁晓夫抛出了一份秘密报告《关于个人崇拜及其后果》。报告中赫鲁晓夫对斯大林以前的一些活动进行揭批，他列举了斯大林一手操持的大规模非法镇压活动，并透露了许多囚犯甚至有政治局委员惨遭迫害的事实。
并且披露了列宁在最后岁月里与斯大林发生的冲突，以及列宁提出要将斯大林调离党中央总书记岗位的建议。赫鲁晓夫指出，斯大林在列宁逝世后，盛气凌人，唯我独尊，并且滥用手中权力，破坏、践踏社会主义法制，对持不同政见者打击、报复，不仅排斥异己，而且从精神和肉体上摧残他们。晚年更加残暴，对于自己信不过的人，随便扣上“人民的敌人”的帽子，并以此将他们逮捕、枪毙。他还批判了斯大林错误的民族政策，并且指出，斯大林利用出版《斯大林传略》的机会，过分美化自己，神化自己，并说自己是一贯正确的圣人。报告最后，赫鲁晓夫总结了个人崇拜产生的危害及其导致个人崇拜的原因。
这个报告的出笼，无异于一颗重磅炸弹，在国内和国际掀起轩然大波。这个报告对国际共产主义运动产生了极大冲击，在一些社会主义国家引起了骚动。1956年的波匈事件就是由此引发的。
在苏共二十大上，赫鲁晓夫所作的《关于个人崇拜及其后果》的报告对斯大林个人崇拜问题的揭露，在一些人民民主国家内引发了严重的政治危机。
波兰统一工人党中央在华沙召开会议，获释出狱的前波兰统一人党领导人哥穆尔卡被增选入中央委员会，并正在积极参与全会的工作。赫鲁晓夫政治嗅觉非常敏锐，他知道哥穆尔卡的复出，肯定会导致波兰局势动荡。形势也正如他所料，波兰工人游行罢工，集体农庄纷纷解体，局势再发展下去，势必对波苏关系产生不良影响。于是赫鲁晓夫迅速作出了反应，他迅速派出前苏联党政代表团前往波兰进行紧急会谈。波兰领导人努力说服了前苏联代表团，让前苏联代表团相信波兰将继续与前苏联保持盟友关系，波兰危机算是平息了。