按照原订计划，俄罗斯远征军一分为三，戈洛文、列福尔特和戈登各率一部队将亚速城团团围住。被包围的土耳其人并不害怕，他们的城防实在是太坚固了。同时，由于俄军没有海军，无法阻止土耳其舰队将增援部队源源不断地运至亚速城内。当时在俄军服役的荷兰水手雅各布·扬森临阵投敌，告诉土尔其人俄军有睡午觉的习惯后，土耳其军队竟趁俄军午休之际，大举出击，毙伤俄军数百人。围城无效，俄军开始向城墙挖掘堑壕，准备突击攻城。8月5日，当堑壕挖至离城墙不足30俄丈时，尽管攻城的准备并未就绪，彼得还是轻率地下令进攻。由于炮兵及各个突击队之间未能协调一致，不但没有成功，反而因土耳其军的反攻遭受了很大损失。一直靠游戏兵和模型进行“战争”的彼得，对此并未作出清醒的分析，找出失败的原因，仍然下令继续挖沟。9月底，当堑壕挖至城墙根下时，彼得又没有根据地乐观起来，“城内已用战神之犁耕耘，种子已经播下，直待到时收获”。可是，第二次攻击又没有成功。10月初，俄军不得已撤军返回。一个月后，回到了莫斯科。入城时，这次远征的唯一战利品——一个土耳其俘虏被押解着走在远征军的最前面。
彼得对这次他自己所说的“没有攻克亚速的远征”并无文过饰非之意。反而，殚思竭虑地探询失误的原因。首先，工兵素质太差，炸药炸不开城墙，反把围城的俄军炸死不少。第二，指挥系统不协调，本应同时开始的突击却参差不齐。最重要的是，俄国没有海军，因而不能完全有效地封锁亚速城。切断水路供应，阻止土耳其人的增援。
针对这些问题，彼得马上开始对俄军进行认真的调整、完善，并着手实施一个伟大而又影响深远的计划——创建海军。但俄罗斯从来没有过海军，要创建海军，最难的就是建造军舰。1696年2月，彼得离开了莫斯科前往沃洛涅什造船厂，大胆而又果断地迎接这一挑战，亲临现场指挥造船。有时彼得像一个普通的木匠一样，手执利斧亲自参加劳动。尽管当时打造的只是一些平底木船和帆桨并用的大船，但这毕竟是后来强大的俄罗斯海军舰队的初始前身。
1696年5月初，奉沙皇彼得之命，集结于沃洛涅什的第二次远征亚速的陆军和新建的由27艘舰只组成的海军舰队，挥师南下。月底，俄罗斯远征军抵达亚速，随即夺占了去年俄军在此挖掘的堑壕，并开始炮轰城墙。这时新建的海军舰队发挥了威力，先是哥萨克乘船袭击了亚速城外满载粮秣弹药的土耳其船队、并将其歼灭。随后，进入亚速海的俄罗斯舰队又成功地拦截了满载4000士兵和大量物资多次企图冲入亚速城的土耳其救援舰队。陆上包围，海上封锁，亚速城被围得水泄不通。在俄军日益猛烈的炮击下，6月19日内外交困的土耳其守军只好投降。
此次战役中，彼得不仅是运筹帷幄的总指挥，而且亦是勇敢无畏的“第一炮手”。他常常亲临前线，或在军舰上，或在堑壕里亳无畏惧地亲手开炮向敌人射击。
激烈的战斗把亚速城几乎夷为平地。彼得立即组织力量重新修复城防要塞，同时为了今后海军的发展选定了优良港湾塔干罗格作为军港开始修建。随后不久，又征调了3000射击军官兵连同家属常住亚速，并动员了大量人口移民这里，以便修建塔干罗格港。
8月，除留下守备亚速的兵力外，俄罗斯远征军班师返回莫斯科。但彼得决没有因亚速的胜利而昏了头，也没有对此做出任何不切实际的估计，相反他时时刻刻都在思考着如何防范土耳其人为夺回亚速而发动的进攻，保卫胜利果实；如何取得利用黑海海峡的权利，使俄罗斯拥有新的出海口；他甚至开始思考如何加快海军建设，使俄罗斯成为海上强国。
改革从胡须开始
1698年8月25日，经历了漫长的西欧之行的彼得和随行人员回到了莫斯科。为了给即将开始的变革留下新开端的印记，沙皇一反传统习惯，没有安排臣下用盛大的仪式去迎接他顺利归来。并且在他抵达的当天，甚至没有进入皇宫，而是回到普列奥布拉任斯科耶村他的寓所。因为彼得的心情是沉重的，沿途所到之处，俄罗斯贫穷落后与西欧先进国家的强烈反差，刺伤了他的自尊，他决心要为改变这种面貌而努力。
第二天，获悉皇上回京的朝臣纷纷来到普列奥布拉任斯科耶村，庆贺他胜利归来。领受了西方文明之风的沙皇，用礼貌而又客气的态度首先废除了旧式朝见的跪拜仪式。接下来，他以臣属意想不到的方式宣布革除俄罗斯陈规陋习的决心：他从侍从手中接过剪刀，亲自剪除了领主们的大胡子。位高权重的谢英大元帅最先接受这一“殊荣”，号称“公爵皇帝”的罗莫丹诺夫斯基接着也失去了他的美髯，在场的领主无一例外地告别了自己的胡须。几天之后，当然这不再由沙皇亲自动手，大小廷臣纷纷舍弃了自己的胡子。
体面人物失去了胡须，在俄国非同儿戏。因为留须是俄国最古旧的传统之一。东正教会认为，胡须是“上帝赐与的装饰品”，是仪表威严、品格端庄的象征，剪除胡须的行为是一种大逆不道的罪孽。但是，彼得正是选择这一传统的禁区，向传统挑战。他把剪胡须提高到普及新文明的高度，作为一种国策来推行。他明文宣布：剪胡子是全民族的义务，必须强制执行。除了宗教界，任何居民要留胡须，必须交纳留须税。
这件旨在改变俄国人外观的举措，看起来似乎微不足道，但实质上是彼得“西化”改革的开端。它表明，一个民族的外观和习尚正是其精神风貌的体现。崇尚守旧象征的胡须，将成为反对新事物的抗议标识。因此，新的变革必须从革除守旧传统的象征开始。
比剪胡子更具风险的变革，是彼得对射击军的“清算”。自索菲娅公主失势以来，射击军在形式上归附了沙皇的控制。但是，这是一支没有得到彻底改造的队伍。在彼得看来，他们“不是军人，而是一群祸害”。这不仅因为射击军在组织形式上的落后和缺乏战斗力，主要是他们仍是俄国守旧传统的象征。他们从历史上继承下来的那种结构和生存方式，决定了他们反对变革的立场。
彼得回莫斯科不久，就开始重新审查有关射击军两次起事的原因和处置的情况。他经过听取汇报和周密的了解，认为审讯工作浮皮潦草，处置措施也过于软弱，决定亲自重新审理这一案件。从1698年9月中旬开始，涉及4个团的1041名射击军全部押解莫斯科投入监狱，接下来是残酷的折磨和严刑逼供。结果，彼得发现了索菲娅参与叛乱的线索。于是又开始了对公主的审讯，后者矢口否认同射击军的牵连。由于缺乏证据，无法给她定罪，审讯最后不了了之。但射击军叛乱却是事实，不等审讯结束，对他们的死刑判决已开始执行。除了14至20岁的青少年士兵，射击军共有799人被残酷地处死。
它是彼得以野蛮的方法和野蛮作斗争的具体表现。
在扫荡了射击军这支守旧的势力之后，彼得把注意力转向海军建设和初步的内政改革方面。10月下旬，他动身前往沃洛涅什造船厂，视察那里两年来造船工程的进展状况。沃洛涅什，这个河岸边默默无闻的小镇，由于造船业的发展，已成为生气勃勃的航海工业中心。著名的阿普拉克辛已从阿尔汉格尔斯克调到沃洛涅什，主持军舰的建造工作。一艘能体现俄国技术水平的大军舰正在建造之中。据说它能装载60门发射6至12俄磅弹丸的大炮。届时，它将为俄国使团赴土耳其签订和约助威。由俄国人自己建造，并由俄国海员掌握的军舰为特使护航，这有助于提高国威，是顺利地完成外交使命的坚强后盾。尽管沃洛涅什所造的船在质量上、造型上，还不能同英国或荷兰相媲美，但是它使第一批造船工人取得了经验，并第一次用水手补充了海军的编制，而不再用陆军士兵充数。在源远流长的俄国海军发展史上，这是真正富有实践意义的开端。
反映内政改革的行动，是1699年1月付诸实际的城市自治建设。赋予城市工商业者阶层一定的自治权利，是商品经济和城市经济繁荣发展的条件。早在1667年，政府就曾许诺城市居民，将为他们设立一个“适当的衙门”，以保护和管理商人，使其免于地方行政当局的侵扰和无理干涉。但时过30年，政府的诺言一直未能兑现。1699年，政府的敕令再度论证了成立城市自治机关的必要性，并决定在莫斯科建立市政厅（院），在外省城市设立地方自治局。厅、局分别为管理城市工商业居民的中央和地方自治机关。这些自治机构，由选举产生的工商业者的代表行使管理职能，并负责向国家交纳规定税收。它有助于较为自由地组织工商业活动，同时也为国家提供了及时、可靠的税收来源。
1699年，还有另外两项改革措施付诸实践。一是，2月间的一次庆典宴会上，彼得开始了剪除宽袖长袍的活动。这同剪除胡须一样，也是一次从外观和精神风貌方面革除旧传统的努力。不久，有关废除宽袖长袍装束的告示开始出现在大街小巷，沙皇以敕令的形式规定了外衣的长度和内外衣的比例。在这些细节问题上，同样体现了沙皇的习惯：一件小事，一旦付诸实际，他就千方百计将其贯彻到底。
另一件事是，彼得在1699年末，接受了以基督诞辰为纪年的新历法，并积极参加了新年庆祝活动。新历法使俄国计算时间的方法与欧洲所有国家趋于一致，深刻地改变了俄国的生活节奏，加速了俄国的西化进程，这对改变守旧落后的传统面貌，是具有积极意义的。
在新的一年，也是新的世纪——1700年到来之际，沙皇为创建一个新的国家已经做了这样几件事：为夺取出海口，已建立海军舰队；城市已取得自治权；由于强制性地剪胡须、剪长袍，以及采用基督新历法，俄国的社会生活面貌已经开始发生重要变化。变化的目标只有一个，就是把俄国通过西方化，提高到现代化国家的水平。俄国能否实现、并巩固其西化改革，取决于它能否争取到影响自身发展的外部条件，并使这种影响持续进行下去。波罗的海诸省的征服，是实现这一目标的基本条件。但对于封建农奴制浓厚的俄国而言，这是一个颇不轻松的任务。战争的旷日持久，及其对国内生活的深刻影响，都使彼得的改革带有浓厚的军事目的。彼得将在夺取出海口的斗争中检验他的改革，深化他的改革，并利用改革成就支持长期战争。1699年11月11日，俄、波、丹三国同盟建立，俄国正一步步走向新的战争。
崛起的强国
1700年8月8日，俄国与土耳其缔结和约的消息传到莫斯科。久久盼望这个的彼得立即通知波兰国王：俄军立即行动，按北方同盟要求，向瑞典宣战。沙皇一声令下，十万辆满载炮火、粮食、装备的大车，绵延数十俄里，蜿蜒向西北方向进发。但是，当大军到达特维尔时，传来一个令人失望的消息：作为三国同盟之一的丹麦，由于瑞典国王查理十二世亲率15000大军在哥本哈根登陆，已在8月8日不战而降。波兰方面，虽先于俄国宣战，但围攻瑞典驻军的行动迄无进展。看来，战争的重负已经压在刚刚宣战的俄国身上。彼得已无别的选择，因为瑞典国王率领着18000人，正向里夫兰进发。双方交火的地点将是纳尔瓦。纳尔瓦位于纳尔瓦河下游临近芬兰湾处，是瑞典控制波罗的海的强固据点。平时仅有8000人据守，但都训练有素，如果得到查理十二援军的策应，俄军的形势就不容乐观。
查理十二用兵一贯神速，这时，他像突袭哥本哈根一样，出人意料地来到纳尔瓦。俄军围攻部队多达10万，已连续攻城两个星期，火药、炮弹都已用尽，但却毫无成效。11月19日，集结完毕的瑞典军队向漫散、狭长的俄军围城工事，发动了闪电式的突然袭击。俄军顿时乱成一团，缺乏训练的贵族骑兵高喊“德国人出卖我们了”，纷纷落荒而逃。不少士兵因强渡纳尔瓦河，葬身河底；不少人缴械投降，当了俘虏。唯有彼得的两个近卫军团表现出色，但寡不敌众，难以挽回颓势。
纳尔瓦一战，俄军损失惨重，阵亡、溺毙、及饿死者，达6000人之众；炮兵连同135门各种口径的大炮、丧失殆尽；高级军官几乎尽数牺牲。可是双方兵力对比悬殊，实际交火的力量瑞军约12000人，而俄军则有4万之众。
纳尔瓦之败使彼得一世清楚地看到，他的军队是一支腐败的军队，从而迫使他立即实行全面的军事改革和发展工商业的计划。
纳尔瓦之战暴露了俄军的虚弱，所以改革须从强化军队开始。有三件事必须着手进行，即：变革军制，开辟财源，重建炮兵。
纳尔瓦的溃败证明，原来的贵族军队是难以在战场上取胜的，他决定实行义务兵役制。依据新军法案，每25户农民必须出一名新兵，按此标准，每年约有3至4万新兵应征入伍。入伍新兵须接受严格的军事训练。战士每天操练3次，稍有懈怠，即遭鞭打惩处。训练常在有经验的外国教官指导下进行。经过一个时期严格操练，新军已经学会怎样组成坚固的阵线，怎样整齐步伐，怎样打开排枪和怎样持枪搏斗等基本功。这种征集和训练方法，一直贯穿整个北方战争。其间，彼得共征兵53次，全国有284000人入伍。新的军制，为俄军提供了源源不断的有生力量，并以新的军事素质取代了松散、落后的贵族队伍。