兵贵神速，如同神兵天降的苏军坦克打得日军措手不及，日军抵抗了两天后，丝毫不见效果，只得仓皇向渡口撤退，企图渡过哈勒欣河，可是河这边的日军士兵由于害怕苏军坦克突破后继续长驱直入，于是把惟一的浮桥给炸掉了。日军只好跳入水中以求脱身，结果被淹死的不计其数，朱可夫指挥的坦克兵大获全胜。
这一仗是苏军积极防御的典范，体现了朱可夫的作战风格。日军不甘心失败，又新调重兵汇集于哈勒欣河沿岸，企图与苏联红军决一死战。为了加强突然性效果，苏军对下一次行动绝对保密，朱可夫精心拟定了一套迷惑敌人的计划。他命令部队的一切运动、集结、变换部署都只能在夜间进行。
苏军料到日军会进行无线侦察和电话窃听，他们便将计就计，制造假情报传给敌人。通话涉及建立防御和秋冬战役的防御准备，无线电通话主要使用易于被破译的密码，有意识让敌人获得“重大情况”。
更为绝妙的是，朱可夫还印制了几千张传单，内容是《苏联红军战士防御须知》，然后一一发给战士们，使敌人看到，一向重视思想教育的苏联红军，现在已经把防御作为思想教育的重点，进而对红军正在组织防御深信不疑。
为了掩护部队的行动，朱可夫又命令苏军使用了各种音响器材，逼真地模拟打桩、飞机起飞、坦克运行的声音，在突击集团开始调动前的12至15天，苏军就开始模拟这些声音，使敌人对此习以为常。起初日军把这些音响里发出的声音都当成了部队真正行动的声音，于是向发出声音的地方进行射击，可到后来，日军真的习以为常了，便对任何声音不再注意，而这一点对苏军真正变更部署和进行集中训练具有极为重要的意义。
一切准备就绪，苏军于1939年8月20日凌晨发动了进攻，比日军的计划进攻时间提前了4天。
这天恰逢星期日，天气暖和。日军指挥部深信苏蒙军队无意进攻，只想防御，加之日军自己还没有做好进攻的准备，因而准许其将官和校官星期日休假。对于苏联红军而言，这可是一个稍纵即逝的绝好机会！
凌晨5点45分，战役打响了。一时间万炮齐鸣，惊天动地，苏联红军猛烈的炮火对日军高炮及机枪阵地进行了轰击，同时部分火炮对苏空军将要轰炸的目标发射了雾幕弹。
在哈勒欣河地域上空，到处是苏空军飞机马达的轰鸣声。150架轰炸机和近100架歼灭机牢牢掌握着制空权，飞机的突击非常迅速而凶猛，战士和指挥员的情绪极为高涨。
8点45分，在空军震耳欲聋的轰炸声中，3颗红色信号弹升上天空，总攻开始了！冲击部队以排山倒海之势，奋力向前涌去。
尽管日军进行了顽强的抵抗，宁愿战死也不投降，但强大的苏联红军仍然仅用了10天，就将侵入蒙古边界的日本第六集团军全部歼灭了。
哈勒欣河战役大大提高了朱可夫的声誉。苏联报刊评论认为：“朱可夫在他指挥的这次大战役中，表现出了他杰出的领导才能和组织才能。”
远见卓识
1940年，朱可夫被派到基辅，担任大军区司令员。朱可夫到任后仅仅几个月，由国防人民委员铁木辛哥和总参谋长梅列茨科夫组织策划了一次大型军事演习。
演习的总题目是：以苏联遭到法西斯德国突然袭击为背景，组织“红”、“蓝”两军的防御和进攻的战役战略总演习。苏联为“红军”，德国为“蓝军”。西部特别军区司令巴甫洛夫上将指挥“红军”，朱可夫大将指挥“蓝军”。双方各自准备，进行大规模的战役战略演习，设想在苏联遭到德国突然进攻时，西部边界可能发生变化的情况，为未来的战争积累一些经验和宝贵资料。斯大林十分重视这次演习，要求各军区和各集团军司令员等所有重要政治、军事官员自始至终参加这次演习。他还多次召见演习的总导演铁木辛哥，详细询问了演习的准备情况。
在这次演习中，朱可夫率领的“蓝军”获胜，根据斯大林的建议，总讲评在克里姆宫里进行，总参谋长梅列茨科夫报告了演习的经过，当他谈到双方力量对比的数字和“蓝”军在演习开始阶段的优势、特别是坦克和空军的优势时，斯大林不禁打断他的话说：“参谋长同志，不要忘记，决定战争胜负的因素除了数量上的优劣，还有指挥员和军队的作战艺术。”
演习讲评的第二天，斯大林召见了朱可夫。斯大林对朱可夫在这次演习的表现很满意，又加上他先前对朱可夫的印象良好，于是他以政治局的名义认命朱可夫接替梅列茨科夫，担任总参谋长的职务。
朱可夫上任后，形势已经岌岌可危，德国军队进攻苏联的战略意图已经被苏联识破了。但是斯大林错误地估计了形势。他认为：德军在对苏战争中首先是力图占领乌克兰和顿涅茨克河域，以夺取苏联最重要的经济地区，掠夺乌克兰的粮食、顿涅茨克的煤，以及高加索的石油，因为这些重要的战略物资是德军进行长期、大规模战争的基础。由于他错误地判断了德军的进攻方向，使苏联红军在战争初期遭受了惨重的损失。
期大林忽略了德军赖以称霸欧洲的“闪电战”，所以1941年6月，希特勒统帅部选定的主攻方向恰恰在西部方向，在白俄罗斯方向集中使用了最强大的陆军和空军集团，企图在最短的时间内攻破莫斯科。
朱可夫通过详细的侦察得知，德国法西斯军队已经在苏联西部边境集结了大量军队，形势十分危机，朱可夫决定调动部队，针锋相对。但是斯大林仍然犹豫不决，害怕因此触犯德国，影响两国关系，又怕给德国抓住把柄以发动战争，斯大林为了延缓战争发生、保持国内和平费尽了心思，但战争还是来了。
1941年6月20日深夜，基辅军区参谋长向朱可夫报告，从一个德军投诚司务长口中得知，德军已经进入出发阵地，德军将在6月22日凌晨全面发动进攻。
6月22日凌晨3时零7分，黑海舰队司令奥克恰布里海军上将报告，有大量来历不明的飞机正向苏联海岸接近。3时30分，西部军区报告，德军空袭白俄罗斯的城市。3分钟后，基辅军区报告，乌克兰的城市遭到空袭。3点40分，波罗的海沿岸军区报告，敌机空袭考那斯和其他城市。
战争终于爆发了。德国政府已正式向原苏联宣战。直到此时还犹豫不决的斯大林在朱可夫和铁木辛哥的力劝下，才勉强下了命令任命朱可夫担任西南方面军统帅部代表，立即动用各边境军区所有的兵力猛烈还击敌人的进攻，制止其继续前进。
朱可夫雷厉风行，在与斯大林谈话后40分钟就已经乘上飞机起飞了。他于22日黄昏时分，就赶到了位于基辅市中心的乌克兰共产党中央委员会大楼。赫鲁晓夫正在等他。两位老朋友此时相见，倍感亲切。赫鲁晓夫关切地说：“不要再往前飞了，否则有危险。德军飞机总是追逐我们的运输机，应当坐车去。”朱可夫听从了赫鲁晓夫的安排。
随后，朱可夫乘车到塔尔诺波尔去，那里是西南方面军司令员基尔波塔斯上将的指挥所。深夜时分，朱可夫赶到目的地。一下车，他顾不上和高级军官们寒暄，立刻要通了瓦杜丁的电话。
瓦杜丁报告说：“到6月22日此刻，尽管采取了有力措施，总参谋部仍无法从各方面军和空军司令部获得我军和敌人的准确情报。”
朱可夫亲自赶到担任主攻任务的机械化第八军（军长利亚贝舍夫）的指挥所。这位军长是朱可夫的老部下。利亚贝舍夫拿着地图向朱可夫报告了部署，安排干净利索，句句击中要害。
这时周围传来一阵飞机俯冲的尖叫声和炸弹的爆炸声。朱可夫看到利亚贝舍夫和在场的军官们都在有条不紊地工作，就像在野外演习时一样。朱可夫心中暖融融的，心想：真是好样的，到底还是老部队过硬，有了这些人，我们是不会打输的！
6月24日，按照统一部署，机械化第八军在别烈斯贴奇科方向转入进攻，机械化第十五军在腊迭霍夫以东进攻。这两个军的出色战斗，使德军第一装甲集团群的第四十八摩托化军陷入十分危急的境地。德军统帅部调动了全部空军到这一地域抗击苏军的反突击，才使第四十八摩托化军免遭全军覆没。
在朱可夫的指挥下，西南方面军胜利实施了最初的一次反突击。德国陆军总参谋长在这一天的日记里写道：“敌人不断地从纵深增调生力军来对付我们的坦克。不出所料，敌人以大量坦克兵力在第一坦克集群的侧翼转入进攻。”
对这次战斗，朱可夫并不甚满意，他认为，如果他手中有更多的航空兵用来与机械化军协同作战，可能会取得更好的效果。
朱可夫是杰出的总参谋长，他临危不惧，头脑清晰，思维敏捷，判断准确，又是出色的战略家，哪里有险情，斯大林就把他派到哪里，他曾几度临危受命，几度力挽狂澜，在人民心目中，他就是胜利的象征。
朱可夫分析：莫斯科方面的德军，由于损失太大，短期内不可能实施战略进攻；列宁格勒方面的德军，在得到兵源补充之前，也不可能夺取列宁格勒；乌克兰的德军正在与苏军对峙，朱可夫认为，苏联最薄弱的是中央方面军，德军很可能利用这个弱点向西南方向军的侧翼实施攻击。
当斯大林召见朱可夫时，朱可夫根据当前敌我形势的分析，建议首先加强中央方面军，至少还要增加3个集团军。西南方面军必须全部撤过第聂伯河，把兵力集中起来，避免被敌军包围。
放弃基辅，在西部方向马上组织兵力夺取叶利尼亚的突出部。
这对于当时的原苏联人来说，基辅意味着生命，他们对这个地方倾注了太多的感情，自然朱可夫这个建议无异于在斯大林头上丢了个炸弹，不明形势所迫的斯大林生气地指责朱可夫完全在乱弹琴。实在无法再忍耐下去的朱可夫只好提出辞去其总参谋长的职务。
半小时后，斯大林板着脸宣布，解除朱可夫的总参谋长职务，任命他为预备队方面军司令。
以后的事实证明朱可夫是完全正确的。基辅会战历时1个半月，最后以苏军惨败告终，65万苏军官兵被俘，大量物资装备落入了敌人手中。
朱可夫的逆耳忠言换来了不公正的撤职，但他带着满腹委屈上阵后，立即全身心投入了工作。
8月中旬，朱可夫率部向叶利尼亚地区的德军发起进攻。战斗异常激烈，双方在所有地段同时展开激战，德军企图以密集的大炮和迫击炮火力阻止苏军进攻，朱可夫则成竹在胸，沉着应战，下令动用所有的飞机、坦克、大炮和新研制的“喀秋莎”火箭炮猛烈还击。
9月6日，苏军最终攻占了叶利尼亚，歼敌近5个师，共5万余人，这是苏德战争开始以来苏军取得的第一次重大的胜利，苏军的士气空前高涨，坚定了战胜德军的信心。
朱可夫又被斯大林召回莫斯科，即将派往形势危急的列宁格勒。
保卫列宁格勒
列宁格勒原叫彼得堡，是彼得大帝在1703年建立的“西方的窗户”，此后一直作为俄罗斯帝国的首都。
正是在这里，俄国的共产党于1917年11月夺取了政权。列宁格勒是苏联第二大城市，有300多万居民，是苏联最重要的海港和重要的工业、文化中心。
列宁格勒的重大意义，苏德双方都十分清楚，1941年7月，希特勒就决定将列宁格勒和莫斯科夷为平地。8月底，西北方面的德军进逼列宁格勒。9月8日，德军完成了对列宁格勒的包围，并开始收紧夹攻的铁钳。
负责驻防此城的苏军统帅伏罗希洛夫彻底感到绝望，他甚至跑到火线上，希望被德国人打死，苏军士兵的士气也极为低落。斯大林不得不重新启用朱可夫，交给他死守住列宁格勒这一千斤重担。
朱可夫上任后立即着手整顿士气和纪律问题。他一到前线，就发现第八集团军纪律松懈，如同一盘散沙，有些师长没有接到命令就擅自退出战斗，不少战士一听到枪声就跑，朱可夫认为对于这些必须采取最严厉的措施。
于是他颁布命令，凡是失职者都要处决。为了使命令具有威力，他逮捕并处决了一批投敌叛国和擅离职守的军官和士兵，并将一些不良风气弥漫的连队解散，士兵重新分配。对军队机关中不负责任、形式主义严重的不良作风，朱可夫也大力整顿。
经过整顿，部队的战斗力大大提高了，朱可夫精心制定了一个加强城防的计划。苏军在最危险地段和战略要地集中了大量的高炮、舰船，并调集兵力建立了纵深梯次防御。
朱可夫和高级将领们面临着巨大的压力，在高度紧张的气氛中，朱可夫显得态度生硬、烦躁。但他对士兵们仍旧保持友好的态度，对于那些没有高度责任感的军官特别是中高级军官则大声训斥。
朱可夫的精心防御有效地阻止了法西斯德军的进攻步伐，这使希特勒大为恼怒，他下达命令猛攻列宁格勒，即使不能用武力取胜，也要用封锁的办法把城里的人饿死，然后将城市摧毁。
朱可夫面临的形势更加严峻了，他手下的的军队不但要进行残酷的防御战斗，还要应付空袭、炮轰，而且还要应付更严重的饥饿。
为了加强防御，朱可夫把全城分为6个防御地段。每个地段都建立了以营防御区为基础的坚强阵地。此外，又组织了所有的妇女在全城修建路障，在城周围挖防坦克堑壕。
朱可夫在进行地面防空建设之后，还作了最坏的打算，就是德军突入列宁格勒后的应变措施。朱可夫命令在工厂、桥梁和公共设施内部安装了地雷，如果敌人进入了城市，就把这些建筑物连同敌人一同炸掉，朱可夫还给居民们发放了武器弹药，做了大量的组织发动工作，使列宁格勒变成了一座攻不破的堡垒。
由于固守列宁格勒的苏军做了充分的准备，所以尽管苏军在城市周围某些地段发起的反攻未获成功，但他们得以与进攻的德军对峙达50天之久，打破了德军从南北两个方向夹攻以夺取列宁格勒的计划。到9月底，列宁格勒几个方面的战线都处于稳定状态。
德军为了“彻底摧毁”列宁格勒，除了陆地上封锁外，还进行了系统的炮轰和飞机轰炸。
第一次轰炸是在9月8日，但规模最大的则是9月21日至23日的轰炸，约有400架轰炸机参加了他们选定的主要轰炸目标，企图摧毁喀琅施塔得要塞和红旗波罗的海舰队。