在苏军攻克德国的国会大厦后，德国始终不接受无条件投降，并且为了拖延时间还上演了假投降。之后，苏联政府为了庆祝苏德战争的胜利举行了隆重的胜利阅兵式。
在接管德国问题上，虽然各大国表面上达成了共识，但是仍然存在许多需要共同协商解决的问题，于是，苏、美、英三国在柏林召开了波茨坦会议，并共同参与组成了对德管制委员会。朱可夫被斯大林任命为对德管制的苏方最高长官。
1．德国无条件投降
1945年5月1日4时，崔可夫将军打电话向朱可夫报告说，据德国陆军总参谋长克列勃斯将军说，希特勒已于4月30日15时50分自杀，并且留下遗嘱全权委托鲍尔曼与苏联人民的领袖建立联系。
鉴于希特勒的生死极端重要，朱可夫立刻派自己的副手索科洛夫斯基大将前往崔可夫的指挥所与克列勃斯谈判，并要求德国无条件投降。
同时，朱可夫立刻向斯大林报告了这一消息。斯大林了解了情况后说：“你告诉索科洛夫斯基，除无条件投降外，不要同克列勃斯或其他德国军官进行任何谈判。如果不发生非常重要的情况，就别再打电话给我，我还要为举行五一节检阅抓紧时间休息一会儿。”
之后，索科洛夫斯基将军又向朱可夫报告说：“他们在耍滑头。克列勃斯说，只有以邓尼兹为首的德国新政府才能决定无条件投降问题。”
朱可夫回复道：“你告诉克列勃斯，如果戈培尔和鲍尔曼到10点钟还不同意无条件投降，我们就要实施最猛烈的突击，以彻底打消他们再作抵抗的念头。”
到规定时间，戈培尔和鲍尔曼未作答复。于是，苏军对柏林市中心德军特别防御地区的残余地点，展开了最猛烈的射击。
18时，德国当局派来了一名使者通知说，戈培尔和鲍尔曼拒绝无条件投降的要求。作为对他们的回答，苏军以最强大的力量，对帝国办公厅所在地和残余德军所盘踞的市中心，展开了最后的猛攻。
次日凌晨，柏林城防司令部的无线电台曾多次用德语和俄语广播：“我们派使者到俾斯麦街的桥上去。我们停止军事行动。”
清晨时分，德军坦克第56军军长维德林将军投降被俘。维德林是在几天前由希特勒亲自任命的柏林城防司令官。他被俘后立即同意给他的部队下达停止抵抗的命令。
当天，投降被俘的德国宣传部副部长弗里切博士建议，让他用无线电广播号召柏林德军守备部队停止一切抵抗。为了尽快结束战斗，朱可夫同意让弗里切使用无线电广播电台。
攻占帝国办公厅后，朱可夫曾亲自前往该处，以查清希特勒、戈培尔和德国当局其他领导人自杀的问题。
正要结束对帝国办公厅的检查时，在地下室发现了戈培尔六个孩子的尸体。不久，在地下室附近，又发现了戈培尔和他妻子的尸体。弗里切博士前来辨认，证明这确实是他们。
这些情况使朱可夫最初对希特勒自杀这一说法的真实性产生了怀疑，况且也没能找到鲍尔曼。当时，朱可夫曾设想：在依靠外面援救柏林的希望破灭时，希特勒已经逃走了？但是，在进行了一系列调查，包括审讯了希特勒的私人医务人员之后，得到了能证明希特勒自杀的比较肯定的情报。于是，朱可夫确信，对希特勒自杀的怀疑是没有根据的。
由于德军没有接受无条件投降的要求，苏军奉命立即将德军彻底消灭。
5月7日，斯大林通知朱可夫：“今天，德国人在兰斯市签署了无条件投降书。不是同盟国，而是苏联人民，肩负了战争主要重担，因此，投降书不能只在同盟军最高统帅部面前签署，而应在反希特勒联盟所有各国的最高统帅部面前签署。而且，我是不同意不在柏林签署投降书这种做法的。我已知会同盟国，在兰斯签署投降书只当做投降仪式的预演。明天，德国最高统帅部的代表和盟军最高统帅部的代表要到柏林。由你担任苏军最高统帅部的代表。维辛斯基会去协助你，并在投降书签署后留在柏林，担任你的政治助理。”
次日清晨，世界各大报刊的记者开始陆续到达柏林，以便及时记下从法律上肯定德国灭亡的这一历史性时刻。当天中午，盟军最高统帅部代表英国空军上将特德、美战略空军司令斯巴兹将军和法军总司令塔西厄将军到达了腾珀尔霍夫机场。
24时整，各国代表和记者走进了柏林东部的卡尔斯霍尔斯特德国军事工程学校一幢两层楼房的大厅，投降的签字仪式就在这里举行。一张长桌靠墙放着，墙上挂有苏、美、英、法四国的国旗。
朱可夫在受降仪式揭幕时宣布：“我们，苏军最高统帅部和盟军最高统帅部的代表，受反希特勒同盟各国政府的委托，接受德军统帅部代表德国作无条件投降。请德军最高统帅部代表进入大厅。”
所有在场的人都转过头来注视着门口，曾吹嘘要征服全世界的人就要露面了。
希特勒的主要助手凯特尔元帅头一个跨进门槛。他努力保持着镇静，慢慢地走着，举起拿着元帅杖的右手，向苏军和盟军最高统帅部的代表致敬。随后进来的是眼睛里充满了凶狠表情而又无能为力的什图姆普弗上将和未老先衰的弗雷德堡海军上将。
德军最高统帅部代表被安置在离门不远、专为他们准备的一张单独的桌子旁边。
“你们手里有没有无条件投降书？你们是否已研究过它并有权签署它？”朱可夫问德军最高统帅部代表。
“是的，我们已研究过并准备签署它，”凯特尔有气无力地说，同时递上了一份由邓尼兹海军上将签署的能证明凯特尔、弗雷德堡和什图姆普弗有权签署无条件投降书的文件。
接着，凯特尔用颤抖的手签署了五份投降书。什图姆普弗和弗雷德堡也签了自己的名字。至此，德国无条件投降的签字仪式宣告结束。
随后，朱可夫以苏联最高统帅部的名义，为这一长久期待的胜利，向所有在场的人表示了衷心的祝贺。大厅里立即响起了一片难以形容的欢呼声。大家都在相互祝贺、握手。许多人禁不住热泪盈眶。
当天早晨，朱可夫将签署好的无条件投降书立即送往最高统帅部。莫斯科当天就通知朱可夫已经收到了全部文件。
时至今日，德国及其盟国终于彻底失败了，一场浴血奋战的战争结束了。
2．胜利阅兵式
1945年5月中旬，朱可夫奉命回到莫斯科。在克里姆林宫斯大林的办公室里，汇集了国防委员会委员、海军人民委员库兹涅佐夫、安东诺夫、红军后勤部长赫鲁廖夫，以及总参谋部经管组织问题的几位将军。他们正在研究参加对日作战的问题。
斯大林征询大家的意见时问道：“为了庆祝战胜德国，我们有没有必要邀请立功最多的英雄，包括士兵、军士、准尉、军官和将军们，前来莫斯科举行一次胜利阅兵式呢？”
对此，众人都表示热烈支持，并且提出了许多建议。对于阅兵首长由谁担任的问题，没有人进行讨论，显然，大家都理所当然地认为阅兵首长应由斯大林来担任。
于是，斯大林指派安东诺夫为阅兵做好一切必要的计划。预定由卡累利阿方面军、列宁格勒方面军、波罗的海第1方面军、白俄罗斯第1、第2、第3方面军、乌克兰第1、第2、第3和第4方面军以及海军和空军各派出一个混成团，由方面军司令员率领参加阅兵。各混成团的编成内，应包括有苏联英雄、光荣勋章获得者、著名的狙击手和战功最多的勋章获得者——士兵、军士、准尉和军官。