宝元元年（1038年），原称臣于宋的西北党项首领李元昊称帝，建国号大夏（史称西夏），与宋朝的外交关系正式破裂。
次年（1039年），为逼迫宋朝承认西夏的地位，李元昊率兵进犯宋境，于三川口大败宋兵（三川口之战），集兵于延州城下，准备攻城。消息传至京师，朝野震惊。
康定元年（1040年）三月，因边事吃紧，宋仁宗以范仲淹众望所归，召回京师，担任天章阁待制、出知永兴军。七月，升为龙图阁直学士，与韩琦并为陕西经略安抚副使，担任安抚使夏竦的副手。八月，范仲淹兼任延州（今陕西延安）知州。
夫人甄金莲陪同范仲淹到任。范仲淹更改军队旧制，分部训练，轮流御敌。此前，边路分马步军部署统兵万余人，兵马钤辖领兵五千，兵马都监带兵三千，御敌时“官卑者先出战”。范仲淹在检阅州兵马后得一万八千人，分为六部，每部置一将，加强训练，根据“敌之寡众分别出战”。
没多久，范仲淹就派兵相继夺回塞门诸寨，修复已破荡的金明寨、万安城等。九月，范仲淹遣将军任福破白豹城（今甘肃华池东北约25公里处），迫使入侵保安军（今陕西志丹）、镇戎军（治今宁夏固原）的西夏军撤兵。
他又派狄青等攻取西界芦子平，种世衡兴筑青涧城，营田实边。十月，遣朱观等袭破西夏洪州界郭壁等十余寨。同时修筑青涧城和鄜城，作为军事基地，节省边费。仁宗为这支军队赐名康定军。
十二月，朝廷采纳韩琦、尹洙之策，下诏在次年（1041年）正月上旬，由泾原、鄜延两路同时出兵，大举伐夏，但范仲淹与在朝中的杜衍、欧阳修等皆以为条件不成熟，主张积极防御，寻觅战机，小规模出击。范仲淹在戍边西北期间，逐渐培养出狄青、种世衡、郭逵等有才干的将领，其他如张亢、王信、范恪、周美等，也是范仲淹所拔擢的。
“塞下秋来风景异，衡阳雁去无留意。四面边声连角起。千嶂里，长烟落日孤城闭。
浊酒一杯家万里，燕然未勒归无计。羌管悠悠霜满地。人不寐，将军白发征夫泪。”
范仲淹写于此时的《渔家傲·秋思》词，用近乎白描的手法，在上片描摹出了一幅寥廓荒僻、萧瑟悲凉的边塞鸟瞰图；词的下片则抒发边关将士壮志难酬和思乡忧国的情怀。整首词表现将士们的英雄气概及艰苦生活，意境开阔苍凉，形象生动鲜明。
这首词变低沉婉转之调而为慷慨雄放之声，把有关国家、社会的重大问题反映到词里，可谓大手笔，和婉约词的风格完全不同。从词史上说，这首词沉雄开阔的意境和苍凉悲壮的气概，对苏轼、辛弃疾等也有影响。
康定二年（1041年）正月，仁宗诏命陕西各路讨伐西夏，范仲淹上疏，建议加强边防守备，徐图西夏，仁宗采纳。范仲淹又奏请修筑承平、永平等要塞，把十二座旧要塞改建为城，以使流亡百姓和羌族回归。
二月，李元昊进兵渭州（今甘肃平凉），仁宗批准夏竦反攻计划，韩琦命尹洙谒见范仲淹，联络同时发兵。范仲淹认为反攻时机尚未成熟，坚持不从。韩琦派环庆路副都部署任福率兵出击，西夏军受挫撤退，任福下令急追，追至西夏境六盘山麓，于好水川遇伏被围，任福等十六名将领阵亡，折兵万余。四月，仁宗降夏竦为豪州通判，范仲淹为户部员外郎、知耀州，职责不变。
五月，范仲淹改知庆州，兼环庆路都部署司事。李元昊起兵时，曾联络羌族，约定环庆路酋长六百余人为其向导。范仲淹到任后，即以朝廷名义犒赏羌族各部，与之签订条约，严明赏罚，羌族遂脱离西夏，为宋效力。为进一步稳固边防，范仲淹又修筑大顺城，遏止白豹城、金汤城一带的西夏军进犯；同时，修葺细腰、胡芦等军塞，切断敌军通路，使明珠、灭臧两部族安心归附宋朝。
庆历二年（1042年）闰九月，李元昊分兵两路，再次大举攻宋。泾原路经略安抚招讨使王沿获知夏军来攻，命副使葛怀敏率军阻击，进抵定川寨，宋夏会战。定川寨之战，宋军大败，葛怀敏与部将等16人战死，丧师九千四百余人。李元昊挥师南下，进逼潘原，关中震动。十月，范仲淹亲率六千军队，从邠州、泾州出发来进行援救，西夏军队撤出边塞。
开始，定川战败的消息传到朝廷，仁宗手按地图，对左右侍臣说：“若仲淹出援，吾无忧矣。”范仲淹的援兵的奏报一到，仁宗大喜道：“吾固知仲淹可用也。”
仁宗非常欣赏范仲淹的军事才能，加封为枢密直学士、右谏议大夫，任鄜延路都部署、经略安抚招讨使。
十一月，仁宗采纳范仲淹建议，恢复设置陕西路安抚、经略、招讨使，让范仲淹、韩琦、庞籍分领职事。范仲淹与韩琦在泾州设置官第，将文彦博调到秦州做统帅，滕宗谅调到庆州做统帅，张亢担任渭州的统帅。范仲淹为将帅，号令清楚，爱护士兵，对于前来归附的各部羌人，诚恳接纳，信任不疑。
范仲淹在镇守西北边疆期间，既号令严明又爱抚士兵，深为西夏所惮服，称他“腹中有数万甲兵”。
最后，李元昊向北宋称臣，西夏军队不敢轻易侵犯范仲淹所统辖的地区。
“碧云天，黄叶地，秋色连波，波上寒烟翠。山映斜阳天接水，芳草无情，更在斜阳外。
黯乡魂，追旅思，夜夜除非，好梦留人睡。明月楼高休独倚，酒入愁肠，化作相思泪。”
范仲淹主持防御西夏的军务，白天忙于战事，到了傍晚，看着边塞特有的风光，一股浓烈的乡愁涌上心头。正是这一股铁汉柔情，让这首词声情并茂，再加上范仲淹一贯的沉郁雄健，便令整词一经问世，便成为经典，流传千年。
“三黜人”范仲淹出色的治世才能，惊艳了宋仁宗，他任命范仲淹为参政知事，主导“庆历新政”，革旧图新。
遗憾的是，声势浩大的改革像一道闪电划过夜空，仅一年就黯然谢幕了。