景祐三年（1036年）五月，范仲淹因吕夷简用人不公、进退失序、缓急不清等向朝廷发难，吕夷简大怒，遂于仁宗皇帝面前自辩，认为范仲淹既非言官，越职言事，荐引朋党、离间君臣。于是，范仲淹被谗陷，再次被贬出朝廷，前往饶州（今江西波阳）任知州。（《续通鉴长编》卷一一八）
贬斥范仲淹，吕夷简又指示同谋以仲淹朋党揭之朝堂，严禁百官越职言事。对此，一些正直的大臣本来就有不满，吕夷简的变本加厉，更引起了一场轩然大波。有些胆子小的官员怕被戴上朋党的帽子，不敢再与范仲淹亲近。同知枢密院事韩亿因为范仲淹曾推荐过他，担心被牵连，急忙上表自辩，说自己“未尝涉朋比之迹，结左右之容，况臣与仲淹既非姻亲，又非故旧，缘何契义？辄有荐论，若仲淹举臣以公，则臣素无交托”（《续资治通鉴长编》卷一一八）。更多的人与此态度相反，像秘书丞、集贤院校理余靖就上疏替范仲淹鸣不平，认为范仲淹刺讥大臣算不得什么罪过，余靖被加上朋党的罪名，贬为监筠州酒税。太子中允、馆阁校勘尹沫看不过，也表请连坐。他说：“臣常以范仲淹刚直不阿，一向义兼师友，朝中同僚都说臣也是被荐论的，今仲淹既然以朋党得罪，臣也无所避嫌！”尹洙自甘同罪，当然也被贬出朝廷。欧阳修当时也写信给谏官高若讷，对高若讷不能为范仲淹鸣冤加以责难，说他袖手旁观，“犹能以面目见士大夫，出入朝中，称谏官，是不复知人间有羞耻事尔”，语言尖刻，高若讷恼羞成怒，立即向朝廷控诉，结果欧阳修也被贬，出知夷陵县。（《续资治通鉴长编》）据说，时任西京留守推官的蔡襄有感而发，写了一首《四贤一不肖》诗，讽喻时事，称范仲淹、余靖、尹诛、欧阳修为四贤，以高若讷为不肖，城中人士争相传写，一时洛阳纸贵，就连来聘的北国契丹使臣听说后也带了一份回去。（《渑水燕谈录》卷二）
这次范仲淹等人被贬，反映出北宋中央政府内部的冲突与不协调。范仲淹自入仕途，三次遭贬，但他的声望越来越高。首次外贬时，同僚把他送到都门外，对他说：“此行极光。”再次被贬时，前来饯行的同仁又对他说：“此行愈光。”第三次送别范仲淹者虽然人员稀少，但仍有人对他说：“此行尤光。”心底无私的范仲淹听罢，不禁豁达地仰首一笑，调侃道：“仲淹前后已是三光了。”他的笑声极富感染力，让人感受到范仲淹充满了自信。据说，在这次送别的同僚中，有位是集贤院待制王质，他带病为范仲淹于国门外饯行。大臣有责难他说：“君，长者，何自陷朋党？”王质回答道：“范公天下贤者，我王质哪有资格望其项背！若得为其同党，哪真是蒙您高看我王质了！”有人听到这话，很为王质的大义所折服。范仲淹到达饶州贬所，还很平静地给皇上上表，说“有犯无隐，惟上则知；许国忘家，亦臣自信……敢不动静三思，始终一志？此而为郡，陈优优布政之方；必也入朝，增蹇蹇匪躬之节”（《范集》卷十五），表达出坦荡无私、忠诚为国之心。对于他的赤诚，宋人有这样评价说：“天下叹公至诚于国，始终不渝，不以进退易其守也。”（《渑水燕谈录》卷二）
范仲淹被贬饶州之后，朝廷中谗言不息，凡称赞他的人都被视为朋党，一时人心惶惶。范仲淹又连续被移调润州（今江苏镇江）、越州（今浙江绍兴）。期间因参知政事程琳的辩护，范仲淹被免于贬往岭表。这时的范仲淹，已年届50岁。
康定元年（1040年），因西夏元昊内侵，边境告急，奉命安抚陕西的大臣韩琦主张起用范仲淹，并说：“若涉朋比，误国家事，当族。”拿满门性命担保。宋仁宗同意了他的提议，命范仲淹以天章阁待制知永兴军（治今西安市），不久，又改任陕西都转运使。
范仲淹此番复出，还有一段小插曲。原来，范仲淹被贬后，朝廷屡起朋党之议，土大夫各持吕夷简、范仲淹二人曲直，吕夷简也被罢相职。范仲淹任职陕西之时，吕夷简也从贬地大名府（今属河北）入朝为相。他向宋仁宗奏称：“范仲淹贤者，朝廷要重用他，岂可只除旧职呢？”于是，范仲淹被加龙图阁直学士陕西经略安抚使。宋仁宗认为吕夷简有“长者”风范，天下人也认为吕夷简“不念旧恶”，范仲淹也向他表示：“向以公事忏犯相公，不意相公乃尔奖拔。”（《涑水纪闻》卷八）欧阳修在所撰《范公神道碑铭》中亦谓“于是二公欢然相约，戮力平贼，天下之士，皆以此多二公。”（《欧阳文忠公文集》卷十九）对二人合作以赴国难给予相当高的评价。据说，这期间范仲淹曾向吕夷简写过一封颇动真情的书信。其中说道：“仲淹于缙绅中，独如妖言，情既龃龉，词乃睽戾，至有忤天子大臣之威，赖至仁之朝，不下狱以死，而天下指为狂士……今擢处方面，非朝廷委曲照临，则败辱久矣！昔郭汾阳（郭子仪）与李临淮（李光弼）有隙，不交一言，及讨（安）禄山之乱，则执手泣别，勉以忠义，终平剧盗，实二公之力。今相公有汾阳之心之言，仲淹无临淮之才之力。”（《宋文鉴》卷一一三）其中引用唐朝郭子仪、李光弼在平定安史之乱中释解前嫌，共赴国难的典故，表达了他以国家利益为重、捐弃个人私怨的坦荡胸怀。宋代大理学家朱熹曾在一封信中评论说：“至若范公之心，则其正大光明，固无宿怨，而惓惓之意，实在国家……此最为范公之盛德，而他人之难者……则其始终本末，如青天白日，无纤毫之可议，若范公所谓平生无怨无恶于一人者，尤足以见其心量之广大高明，可为百世之师表。”（《朱文公文集·与周益公书》）范仲淹虽则仕途起伏坎坷，但其人格魅力却丝毫无损，朱熹誉为“百世之师表”，足见时贤哲人之见识。
三统兵守边抗击西夏
范仲淹奉命往陕西主持方面守务时，前线形势已是十分严峻。
在仁宗宝元元年（1038年）冬，党项族首领元昊在兴庆府（今宁夏银川）建立大夏国，称始文本武兴法建礼仁孝皇帝。元昊称帝后，公然与宋朝分庭抗礼，杜绝朝贡、恣行讨掠，一时间，西北诸府成为疆场。元昊率夏国兵马大肆攻扰，使宋朝既感震惊，又觉无措。最初仁宗以边事咨询臣下，枢密院官员无人应答，束手无策。后来人宗以夏竦为泾原、秦凤路安抚使、范雍为鄜延、环庆路安抚使备战、又派庞籍协同备战。但是，元昊以精兵扰边，动作迅速，兼其又联络北方的契丹与之配合，使宋军疲于应付。宋夏军队交战，宋军连连失利。
宋康定元年（1040年），元昊攻延州（今陕西延安），守将范雍不知军事，闭门不出。庆州（今陕西庆阳）守将刘平、保安（今陕西志丹）守将石元孙闻讯前来救援，由于士兵远来，疲惫不堪，又遇大风雪，在距延州西数十里的三川口遭遇夏军，宋军被击溃，刘平、石元孙被围困，全军覆灭。另外一个将领黄德和临阵脱逃，谎报军情，竟被晋升，刘、石两家却被绑赴刑场，幸因手下士兵上报、由文彦博申明，再为刘、石恢复名誉，将黄德和处以腰斩。延州城待援不得，范雍只求神灵保佑，多亏天地寒冰，守城士兵往城墙上泼水结成冰，夏军无法攻城，才保住了延州城。但经此一战，宋军损失惨重，宋仁宗大为光火。
范仲淹就是在此情形下奉调前线的。他一到前线，就积极地对地形与守备形势进行视察调研，全面了解敌我军事上的优劣对比，多方寻求对夏战争的方略。在此期间，范仲淹曾写过一曲《渔家傲》：“塞下秋来风景异，衡阳雁去无留意。四面边声连角起。千嶂里，长烟落日孤城闭。浊酒一杯家万里，燕然未勒归无计。羌管悠悠霜满地。人不寐，将军白发征夫泪。”词中表达了忧国忧民的沉重心情。
范仲淹经过细致的调查分析，清醒地看到了宋军在装备、训练、给养供应及其他方面的严重缺陷，特别是对于所属部队“训练未精、将帅无谋”的情况极为担忧。（《范集》卷九）因此，他对朝内人士及有些边将力主深入夏军占领区的意见很不以为然。范仲淹从全局出发，提出加强防守、充实关中、坚壁清野、不与夏军正面决战的方针，通过防守与充实自身，达到分敌之势、削弱敌力之目的，所谓“使边城清野，不与大战，关中稍实，岂敢深入！复五路修攻取之备，张其军势，分彼贼势，使弓马之劲无所施，牛羊之货无所集，三二年间，彼自困弱。待其众心离叛，自有间隙，则行天讨，此朝廷之上策也”（《范集别集》卷四）。应该说，范仲淹的分析是中肯的，计策也是可行的。但这一建议却使很多人不理解，特别是有人希望尽快解决元昊的内侵，有速战速决的心情，对他则视为“怯惧”（《续资治通鉴长编》卷一三○）。连荐举他来前线的韩琦也与范仲淹看法相左，认为只重防守会有损士气，且会使敌军有可乘之机。不过，宋仁宗此时信用韩琦，也希望早日讨平夏军，所以就同意了进攻的作战计划。但范仲淹固持己见，连连上表反对主动出击。认为轻言出击是冒险行动，根本没有取胜的把握。前来督促他出击的经略判官尹诛见状，曾感叹道：“您在这一点上就不如韩公（韩琦）了。韩公曾讲：‘大凡用兵，当先置胜败于度外。’您是不是有点过于慎微了？”范仲淹道：“大军一动，万命所悬，要对将士的性命负责，对此等事情置之度外，仲淹未见其可！”韩琦知道范仲淹不肯出兵，就自行采取了行动。结果，韩琦副将任福率大军出击，中了夏军诱敌深入之计，在好水川边笼竿城（今宁夏隆德一带）中伏，任福战死，阵亡者数千人。回军途中，阵亡将士的亲属皆持故衣纸钱招魂，并拥到韩琦的坐骑前痛哭：“你随招讨使出征，现招讨使归来你却战死，你的魂能随招讨使一起归来吗？”哀恸之声，声震天地。韩琦也为此情此景不胜悲愤，掩泣驻马，许久不能移步。范仲淹听说后，曾长叹道：“当是时，难置胜败于度外也。”（《东轩笔录》卷七）
军事上的惨败，使范仲淹更加坚定了自己的看法。朝廷打算在敌军获胜后骄怠的形势下出奇兵以深入讨击，诏令范仲淹考查土气勇怯状况，“如不至畏懦，即可驱策前去，乘机立功”。但范仲淹以为像任福等边地名将尚不免于败，何况其所率之兵！仍然认为不可仓促，他说：“贼大至则守，小至则击，有闲则攻，方可就近以扰之，出奇以讨之。”前提仍是加固防务，先使自己立于不败之地。（参《续资治通鉴长编》卷一三一）朝廷见状，也只得稍稍汲取教训，决定将陕西划为几个小的战区，避免战线太长。庆历元年（1041年）夏，韩琦因兵败上表自劾，请求处分，朝廷将其贬知秦州，范仲淹也上表自劾，承担在与元昊交往中失误之责，也受到处分。夏竦身为边帅，竟无动于衷，被知谏院官张方平以遇敌“畏懦不肯尽力”及巡视边寨时带奴婢于中军帐内“几致军变”等由，奏劾罢免了职务。（《宋史·夏竦传》）重新调整后的前线战区被分为秦凤、泾原、环庆、鄜延四路，分别起用韩琦、王沿、范仲淹、庞籍为帅，范仲淹知环庆路军事，驻于庆州（今陕西庆阳）。他到任后，仍然贯彻在延州（今陕西延安）时的防御策略，修固边防工事，训练士卒，怀柔地方。由于修筑寨堡，使边防形势发生了改观。当年他驻守延州时，就因其统兵有方，防御有效，给敌人以极大震慑，据《续资治通鉴长编》卷一二八记载，当时夏军中流传这样的说法：“无以延州为意，今小范老子（即范仲淹）腹中自有数万兵甲，不比大范老子（即范雍）可欺也。”
范仲淹统兵，除了重视工事、战马及武器外，还特别重视对将士的训练。他精心爱护手下将士，鼓舞斗志，纪律严明、赏罚公正，对兵士之中有才能者加以擢升与重用。像大将狄青，因作战勇猛，又精于用兵之法，被范仲淹韩琦视为“良将之才也”，范仲淹还让他认真研读《春秋》，终成一代功业显赫的名将。范仲淹的部队，足称为劲旅。他在驻防期间，还很重视与当地的羌族的合作。他非常细致地作这些少数民族首领的工作，推诚相待，立约相守，既保障其安全，又给他们以实际帮助，使他们对宋军产生了信任感。这既减少了边境隐患，防止元昊以夏军胁迫其滋扰，又得不到这些部众的拥护。范仲淹得到当地土户的支持，进一步壮大了防守力量。当地羌族部众把职任龙图阁直学士的范仲淹称为“龙图老子”。
由于范仲淹等人的积极备战，使元昊无机可乘。于是，元昊把矛头指向了对军事不甚在意的泾原路，其统帅是王沿。庆历二年（1042年）闰九月，元昊入侵至原州西境。王沿派副将葛怀敏率军御敌。本来，王沿令葛怀敏进守镇戎军（治今宁夏固原）后不要深入，要安营扎寨，诱敌深入，葛怀敏一路未遇抵抗，就分兵进击，结果在到达定川寨（位今宁夏固原西北）后，被夏军包围，水源被断，归路被截，葛怀敏突围不成，力战而死，士卒被俘获无数，全军覆没。元昊的军队乘势长驱直入，一直打到渭州潘原（今陕西平凉东）。夏军在幅员六七百里之内大肆抢掠，“焚荡庐舍，屠掠民富”（《宋史·葛怀敏传》），致使关中地区大为震动，很多百姓多逃于山谷之间。元昊大掠渭州，但因范仲淹、韩琦等防守严密，只得知难而退。当定川战败的消息传到范仲淹那里，他立即率众六千前往赴援，当闻知元昊退出渭州的消息，他才返回。据说，前方战报传到京师，宋仁宗曾接着地图对身边侍臣讲：“若范仲淹出援，吾无忧矣。”当范仲淹率众增援的奏报传来后，宋仁宗很高兴地对人说：“吾固知仲淹可用也。”（《宋史·范仲淹传》）
宋夏之间争战屡起，大战三次，都以惨败告终。总的说，都是因深入敌境被敌围困所致，只有范仲淹筑寨严守、步步为营、稳扎稳打，与夏军相持，所以，范仲淹“力持守策，以岁月经营困之，无速成功，故无大胜，亦无大败”（《石林燕语》卷九）。这种战绩，在当时宋朝对外作战过程中，已属不易。经过范仲淹的辛勤经营，宋在西北边境的防守逐渐取得了效果。几年坚壁清野，使西夏劫掠侵扰但收益无多，连年战争，内部消耗巨大。自从双方开战以后，西夏每年从宋朝所得岁赐银两、绢帛中断，境内又因旱、虫灾荒，物资匾乏，百姓普遍不满。范仲淹主张坚守以拖延时日使夏军困乏的谋略终见效益。