徐达在率领明朝大军西征期间，曾多次与元将扩廓帖木儿正面交战，而且屡战屡胜，所以扩廓帖木儿对徐达不免心存怯意。在徐达奉诏返京后不久，扩廓帖木儿又开始肆无忌惮地出兵南下骚扰明朝边境地区。因此，徐达再次奉诏统兵北上，担负起了征讨元朝残寇的重任。期间，徐达还曾与吐蕃及四川夏政权之间有过一些接触。
洪武二年（1369年）十二月二十九日，扩廓帖木儿在侦知大将军徐达南返明朝京师应天的消息后，趁机率兵袭击兰州，直抵城下。明朝兰州守将指挥张温为了稳定军心、鼓舞士气，立即召集各部将官，对他们说：“彼悉众袭我，我兵寡，难与为敌。然彼远来，未知我众寡。乘暮击之，可以挫其锋，彼不退则固守以待援。”当天晚上至第二天凌晨，张温就趁敌人新到，营阵未稳，人疲马乏之机，集合城中兵马，悄悄打开城门，摸黑向敌军发起突然袭击。扩廓帖木儿屡经战阵，但是对张温的这种大胆举动还是没有充分的思想准备，因此在张温所部的猛烈冲击下，扩廓帖木儿部下元军被打得狼狈不堪，纷纷退却。不过，扩廓帖木儿最终还是依仗人多势众，抵住了张温所部的进攻。黎明时分，张温及时收兵入城。随后，扩廓帖木儿又率兵将兰州城重重围困起来，张温为了保存实力，坚守城头，不再出战。
驻守巩昌的鹰扬卫指挥于光得知扩廓帖木儿兵攻兰州消息后，迅速率部来援，结果在兰州马兰滩突然遇上了扩廓帖木儿的军队，于光不幸战败被俘。元兵将于光押到兰州城下，强迫他叫张温出城投降，不料于光却对城上守军大声喊道：“我不幸被执，公等坚守，徐总兵（指徐达）将大军行至矣！”元兵大怒，当即上前抽打他的脸颊，最后将他杀害。城中守军听了于光的这番话后，士气高涨，守备更加坚固，而扩廓帖木儿由于进攻不利，又担心于光所言当真，害怕徐达率大军到来，因此自兰州撤围而去。
洪武三年（1370年）正月初三，由于扩廓帖木儿一再举兵内侵，“为西北边患”，且“元主北遁，诸胡（主要指蒙古族贵族、官将、士兵等）从徙者未靖”，明太祖再次诏命右丞相信国公徐达为征虏大将军，浙江行省平章李文忠为左副将军，都督冯胜为右副将军，御史大夫邓愈为左副副将军、汤和为右副副将军，命令他们率师北征沙漠，扫荡元朝残余。在遣将出师前，明太祖问徐达等道：“元主迟留塞外，王保保近以孤军犯我兰州，其志欲侥悻尺寸之利，不灭不已。今命卿等出师，当何先？”徐达等回答说：“王）保保之寇边者，以元主犹在也。若以师直取元主，则保保失势，可不战而降也。”但是，明太祖认为徐达等提出的方案不是很好，说“王保保方以兵临边，今舍彼而取元主，是忘近而趋远，失缓急之宜，非计之善。吾意欲分兵为二道：一令大将军（指徐达）自潼关出西安，捣定西，以取王保保；一令左副将军（指李文忠）出居庸，入沙漠，以追元主。使其彼此自救，不暇应援。况元主远居沙漠，不意吾师之至，如孤豚之遇猛虎，取之必矣。事有一举而两得者，此是也。”徐达等表示赞同，于是即日禀命启程。
与以往明显不同的是，徐达这次挂印出征，所部人马从一开始就被一分为二，他们不仅分工不同，而且是在两个相距甚远的区域同时作战。其中，西路军由“征虏大将军”徐达亲自指挥，主要任务是征讨屡侵西北地区的明朝劲敌、徐达的老对手、手握重兵的故元大将扩廓帖木儿；东路军则由排位仅次于徐达的明太祖之侄“左副将军”李文忠具体负责，主要任务是追击逃居漠北、筑巢应昌的元朝旧主元顺帝等。从当时的情况分析，明朝官兵两路同时出动，如果两路进军都较顺利，或者其中一路能够率先取得决定性的胜利，则势必使故元之主与其大将扩廓帖木儿之间“彼此自救，不暇应援”，大大增加明朝政府争取战争全面胜利的把握；倘若其中一路先行失利甚至溃败，则另一路必将遭到故元余部的极力反攻，面临更大的军事压力，不但难以取得理想的出征效果，而且有可能同样遭致不测，最终导致战争的全面失败。正因如此，看似没有多大关联的徐达部下两路官兵，实际上是生死相系的。
甘肃定西距离明朝京师路途遥远，道路崎岖，徐达费时两个多月，直到三月二十九日方才率领西路军经潼关、西安，抵达定西州。
扩廓帖木儿曾多次败在徐达手下，对徐达心存畏怯。但是，在徐达统率西路军明朝官兵来到定西后，他还是仗着自己手下有近十万兵马，下决心要与徐达一决雌雄。为此，他迅速退兵至地势更为险要的车道岘，抢先占领了有利的地形。不久，徐达率师离开安定城，进驻沈儿峪，派遣左副副将军邓愈分率兵马，逼近扩廓帖木儿所部，在敌人营垒附近一条深沟的另一侧立栅扎营。尔后，徐达所部将士与扩廓帖木儿兵天天对阵厮杀，甚至一天交战数次。
徐达与扩廓帖木儿连战数日，双方旗鼓相当，难分胜负。但是，扩廓帖木儿率部渡过黄河，跨越长城远道南侵，粮草等物资供应困难，而他所驻之山区地形复杂，虽然易守难攻，却也难以外出掠取给养。徐达及其所部将士在本土作战，粮饷等补给较为容易，而且在距车道岘不远的兰州、会宁等地都有明朝驻防官兵，这不仅可以壮徐达所部将士之胆气，而且徐达在必要时还可以随时调集援兵。如果双方的对峙局面持续下去，对扩廓帖木儿势必更加不利。扩廓帖木儿长年征战，自然清楚自己的处境，所以他在与徐达对阵拼杀的同时，又企图出奇制胜，尽快击溃徐达所部，结束这场战争。
四月初八，扩廓帖木儿为了打破僵局，暗中派兵一千余名，从小路绕过徐达阵后，出其不意地向徐达部署在阵东南的兵营发动突然袭击。东南营官兵既疏于防范，又没有充分的思想准备，因此面对突如其来的敌人，顿时惊惶失措，乱成一团，主将左丞胡德济仓促之间不知如何是好。幸亏徐达在得报后，即刻亲自率兵前往，杀退了来犯之敌，才不致酿成大祸。为了严肃军纪，徐达下令阵斩东南营指挥赵某及将校数人示众，官兵为之“股栗”，不敢再有半点疏忽怠慢。第二天，徐达整兵再战，夺沟而阵，而且“身先矢石”。在徐达的带动和督促下，明朝官兵都争先恐后，奋勇冲杀，“毋不一以当十”，于是大败扩廓帖木儿部，活捉了元郯王、文济王及国公阎思孝、平章韩扎儿、虎林赤、李景昌、察罕不花等一千八百六十五人，俘虏将校士卒八万四千五百余人，缴获马一万五千二百八十余匹及大批骆驼、骡、驴等牲畜。扩廓帖木儿仅带着妻子、儿子等数人仓皇北逃。扩廓帖木儿等来到黄河岸边，找不到船只，也顾不得身份和颜面，抱住河面上顺流漂浮的树木，勉强泅水渡过黄河，经宁夏直奔和林而去。徐达得知扩廓帖木儿等出逃后，派遣都督郭英率兵一路追至宁夏，不及而还。
四月二十日，明太祖遣使传令大将军徐达道：“尔将兵在外，军中事宜，与诸将佐熟计行之。凡调发守备，计定谋合，当即区处，毋事狐疑。盖谋事宜审，行事宜决。近闻甘肃一路，守兵甚少，当量势调拨以守之。其吐蕃、兴元，就调兵收取。二处平后，大军出汉江，顺流东下，亦甚利也。凡获牝马，悉发临濠牧养。所俘扩廓帖木儿部从及败而来降者，令从伐蜀。蜀平，就留以守御可也。”在敕谕中，明太祖除告诫徐达应当谋事审慎、行事果决外，还一口气给徐达下达了四项命令：一令徐达酌情增兵防守甘肃；二令徐达在击败扩廓帖木儿后调兵统一吐蕃和兴元；三令徐达将缴获的牝马发送至临濠牧养；四令徐达以扩廓帖木儿部下将士之被俘及来降者相从伐蜀，且在讨平蜀地后将他们留守其地。
五月初一，徐达统领大军离开定西，向陕南进发，准备夺取尚在北元兵控制之下的兴元路。兵抵徽州后，徐达与都督冯胜、参政傅友德等一道，率领大队人马南下，直逼洛阳，生擒洛阳守臣北元平章蔡琳。接着，徐达等又转出东南，占领了沔州，准备由此东攻兴元。与此同时，凤翔守将金兴旺则奉徐达之命迅速率部前往凤县，与张龙所部官兵会师，然后自北向南，通过天险连云栈，径趋兴元，以配合大军的行动。五月二十三日，兴元守将刘思中、知院金庆祥在大军压境的形势下，被迫迎降。徐达命金兴旺、张龙留守兴元，自己随即回师西安。
徐达在统兵离开定西、进取兴元的同时，又利用其军队在大败扩廓帖木儿后的声威，分遣左副副将军邓愈率部前往吐蕃，胁降当地藏族头领，劝其归附明朝。在此前后，明太祖也诏令陕西行省员外郎许允德前往吐蕃，晓谕和招降居住和活动在铁城、洮州、岷州等地的藏族部众。
五月二十三日，即兴元告克的同一天，左副副将军邓愈也率部自临洮攻占了河州，并派人招降吐蕃诸部族酋长。六月，北元陕西行省吐蕃宣慰使何锁南普等，带着前元朝廷颁给的金银牌印及敕书等，前往邓愈军营投降。接着，镇西武靖王卜纳刺也率领吐蕃诸部前来归降。徐达部下左副副将军邓愈等在平定吐蕃后，“征哨极于西北始还”。自此以后，明朝政府与吐蕃的联系更加紧密。
从目前掌握的材料看，徐达与盘踞四川的夏政权接触的最早记录，是在吴元年（1367年）的十一月。史载：吴元年十一月初三，夏主明昇“遣使者邓良叟来聘”，吴王朱元璋为了炫耀自己的军威，特意让邓良叟“从大将军徐达军观所下城邑”。虽然此后又不见徐达与夏政权统治者之间有什么直接或间接的接触，但是徐达的威名却在夏政权统治的巴蜀地区传开了。当徐达自北平率军西征，“不数月关陕悉定”的消息传到巴蜀地区后，“蜀人为之震恐”。明昇部下戴寿曾惊恐地对他的主子说：“大明天子遣将用兵，所向无敌。以王保保、李思齐强盛如此，尚莫能御，况吾蜀乎？倘一旦有警，计将安出？”明昇无言以对，被迫采纳部将吴友仁提出的“外假交好以缓敌，内修武事以备御”的建议，于洪武二年（1369年）七月二十四日遣使来到明朝京城，朝贡以示修好。
洪武三年（1370年）七月三十日，吴友仁率军北侵陕西兴元，奉徐达之命留守该城的将领金兴旺派兵出击，打退了敌人的进攻。第二天，吴友仁又率兵来攻，金兴旺亲自带兵出城迎战。激战中，金兴旺的面部不幸被乱箭射中，流血不止，疼痛异常，但他毫不畏惧，拔出箭后，继续坚持战斗。在他的带动和鼓舞下，明朝官兵奋勇杀敌，歼敌数百人。后来，由于金兴旺考虑到自己部下守城官军总共只有三千人，而吴友仁的军队多达三万人，继续硬拼下去于己不利，因此他一面下令收兵入城，以保存自己的实力，准备关起城门与敌人展开持久战；一面立即派人从小路赶赴宝鸡，求取援兵。稍后，吴友仁便率兵将兴元城围得水泄不通，并且掘壕填堑，向守城官军发起了更加猛烈的进攻。金兴旺据城拒守，并且从城墙上不断发射巨炮檑石打击敌人。吴友仁部下一时难以得手。此时大将军徐达还率兵驻扎在西安，没有班师回京。在得知兴元告急的消息后，徐达马上亲自率军还屯益门镇，命令傅友德先率兵一千沿黑龙江南下，夜袭木槽关，进攻斗山砦。傅友德在率兵夺取斗山砦后，又遵照徐达的吩咐，下令军中“人持十炬燃于山上”。围攻兴元城的吴友仁及其部下见到西北方忽然升起上万支火炬，以为明朝增援大军已经赶到，大惊失色，当天晚上就趁黑拔营，仓皇逃跑，兴元之围因此得以解除。八月二十五日，明太祖在收到兴元的捷奏后，既对明昇君臣表里不一的行径感到愤愤不已，又为兴元守城将士的英勇顽强及徐达的制胜方略等备感欣慰。他对中书省大臣说：“明昇竖子，所谓‘自作孽，不可逭’者也。”
尔后，史籍之中又不见了关于徐达与巴蜀夏政权之间接触的记载。其原因很可能是因为这年的十月间徐达便奉明太祖之命从陕西回到了京城，而且此后他主要负责明朝北部边境地区的战守事宜，所以他没有了与夏政权之间接触的机会。
由征虏大将军徐达挂帅、左副将军李文忠具体指挥的东路军，自应天进军漠北，行程虽然也很遥远，但道路较为宽坦，所以他们的行进速度比徐达亲自指挥的西北一路官兵要快得多。在离京启程的当月（即洪武三年正月），李文忠所部东路军就由北平，经万全，出野狐岭，抵达了长城以北的兴和。故元兴和守将举城投降后，李文忠继续进兵察罕脑儿，活捉了故元平章竹贞。
然而，李文忠接下来却出人意料地没有乘势率兵直捣应昌，甚至在此后长达三个月的时间里，几乎不见他采取较大的军事行动。从当时的情形推测，李文忠之所以在此长时间驻足不前，有三种情况可能性较大：
一是李文忠出于战略战术方面的考虑，或者他在离开京城之前就已经与明太祖及大将军徐达约定，他必须等徐达抵达定西并与扩廓帖木儿正式开战后，方可进军应昌。这样做的目的，主要是为了使扩廓帖木儿和应昌元顺帝只能各自为战，无法相互支援。但是，由于当时通讯不便，再加上自徐达抵达定西至扩廓帖木儿大败溃逃，前后仅仅十天的时间，其速度之快很可能出乎李文忠的意料之外，所以当李文忠得知或估计徐达已与扩廓帖木儿开战，并再度向应昌方向进军时，西北地区紧接着又传来了徐达大获全胜的喜报，不过这个时候距徐达大败扩廓帖木儿已经过去了一个月。
二是李文忠在率领部下官兵日益接近应昌敌军巢穴后，心生畏惧，不敢趁势进军，抑或出于个人私利方面的考虑，认为只有在等到徐达与扩廓帖木儿正式开战，甚至已经将扩廓帖木儿所部击溃后，自己再率军进攻应昌，方可减少战争风险，增加取胜的把握。万一徐达所部败北，自己还可以见机进退。因此，李文忠自作主张，不仅停止了进军应昌的步伐，而且几乎中止了所部官兵的一切军事行动。直到他确定徐达已在四月初九彻底击溃扩廓帖木儿所部，或者料定徐达已与扩廓帖木儿正式开战、扩廓帖木儿不可能兵援应昌之后，他才下令军队继续向应昌方向挺进。
三是李文忠有意故作停留，整顿兵马，补充给养，以便应付在应昌城下或其附近可能发生的大规模的战争。
必须指出的是：如果李文忠是由于个人私利或怯战而延误了战机，按常理来讲，明太祖应当会在他驻足等待的三个月中遣使督军、降敕训斥甚至论以军法，但是不见文献有关于这方面的记载；等到李文忠回到京师后，明太祖即使顾念亲情并考虑到李文忠所部后来取得的战果，免其重罚，也应当不至于对他的应昌战绩公然大加称赏，但后来的情况却恰恰相反。另外，如果李文忠中止进攻应昌是为了迎接可能发生的大规模的战争，但是整顿刚刚奉诏外出征战的兵马无须三个月的时间，同时他不可能看不到当时察罕脑儿一带人烟稀少，想要在此筹集军队所需粮草谈何容易！他也应该清楚，与其花费三个月的时间在此补充给养，还不如立即挥师进攻应昌，力求速战速决。正因如此，前述三种推测之中，又当以第一种可能性最大。
左副将军李文忠等在终止军事行动长达三个月之后，终于再度拔营启程，继续朝应昌方向前进。五月初九，李文忠与左丞赵庸一起，率兵击败了驻扎在骆驼山的北元太尉蛮子等所部元军。接着，李文忠等进军开平，北元守将平章上都罕等投降。
五月十三日，李文忠挥师直趋应昌，在距应昌一百余里的地方，抓获了一名骑马南下的蒙古人。在审讯中，这名蒙古人交代说：“四月二十八日元主（指元顺帝）已殂，今自应昌往开平报国丧。”李文忠得知这一消息后，立即督促部下兵马加速前进。十五日，李文忠所部又与元兵发生遭遇战，大败敌军。追至应昌时，敌军逃入城中，于是李文忠下令围城。第二天，李文忠所部攻克应昌，抓获元顺帝嫡孙买的里八剌及其后妃、宫人，生擒北元诸王、省院达官和士卒等，并且缴获宋、元两朝玉玺和金宝共计15颗，宣和殿玉图书1本、玉册两份，镇圭、大圭、玉带、玉斧各1件，以及大批驼、马、牛、羊等牲口。当天，李文忠便派人将这些俘虏、物品等全部送往京城。
应昌陷落时，元顺帝太子爱猷识理答剌乘乱带着几十名手下骑马出逃。李文忠得知这一消息后，亲自率领精锐骑兵沿途追赶。追到北庆州后，李文忠等由于失去了爱猷识理答剌等人的踪影，只好撤兵回到了应昌。不久，李文忠又率部离开应昌南返。路过兴州时，北元将领江文清等率领军民三万六千九百余人前来投降。抵达红罗山时，又招降了北元将领杨思祖等所部一万六千余人。回到北平后，李文忠又派人将江文清、杨思祖等送往京城，交由明太祖处置。
六月十五日，左副将军李文忠派出的奏捷使者来到京城。第二天，奉李文忠之命押送应昌俘虏买的里八剌等人及宝册等物的官兵也顺利抵达京师应天。二十日，明太祖颁布平定沙漠诏书。九月二十三日，北元降将江文清、杨思祖等被送抵京城。明太祖诏命江文清为千户、杨思祖为卫镇抚，并都给予了丰厚的赏赐，江文清、杨思祖的部下850名将校则每人得赐绮1匹、帛1匹，同时明太祖又派遣杨思祖等回到北方，继续招降他们的旧部。
洪武三年（1370年）十月初六，明太祖下令征虏大将军徐达、左副将军李文忠等班师。十一月初七，徐达、李文忠等还师至龙江，明太祖亲自“出劳于江上”。徐达等见过明太祖后，随即奉驾回宫。至此，徐达正式结束了为时十一个多月的北征之行。
由于徐达等此次出征大获全胜，战果非凡，因此明太祖特意在徐达等班师回京的第二天，即十一月初八，举行了一个别开生面的受贺仪式。届时，明太祖亲临奉天殿，皇太子、亲王及身着整齐朝服的朝廷百官等也全部到场。徐达等武将行过贺礼后，都从两面的阶梯退下。紧接着，皇太子、亲王等又上前行礼。最后，中书省左丞相李善长率领朝廷文武百官奉上贺表。
十一月初九，明太祖又举行一场告庙仪式，“以武成告于郊庙”，并且命令大都督府和兵部录上诸将功绩、吏部拟定勋爵等次、户部准备赏赐物品、礼部制定有关仪礼、翰林院撰写制书诰文，以便他封赏北征有功之臣。十一日，征虏大将军、银青荣禄大夫、上柱国、录军国重事、中书右丞相、太子少傅、信国公徐达因功勋卓著，得升授开国辅运推诚宣力武臣、特晋光禄大夫、左柱国、太傅，仍任中书右丞相，许“参军国事”，晋封魏国公，岁禄五千石，并得赐诰命、铁券、文绮及帛等。