司马光住在家乡时，正巧夏县县尉孟翱是他的同年，管一县的治安，非常忠于职守。司马光十分佩服他对县内山川地势、道路远近，村落疏密都了如指掌；县衙数百名吏卒，全县上万户人家，诸方面的情况都了解得清楚。两人经常在一起交谈，尤其关心社会时局。由于朝廷与西夏经常发生战争，局势十分紧张，边防的正规军虽然有好几万人，却不能很好地发挥作用，还要征召多兵来补充。开始朝廷榜文上讲：所籍乡兵只是“守护乡里”，可命令很快又变了，所有乡兵弓手的脸上都要刺上字，编为保捷军，调去戍边。百姓不愿充军，哭天号地，给百姓遭成很大的灾难与负担。看到这种悲惨的景象，两个人的心情都很沉重。后来孟翱调为宜君（今属陕西）县令，司马光写诗文送他，称赞他的为人、为政，认为以他的才能，将来作宰相也不会有人超过他。
此时，庞籍任延州知州，负担着抗击西夏的重任。司马光于庆历三年（1043年）秋去延州看望他。延州在经过战火之后，逐渐得到恢复，延州城内建设园林，引水为湖，表明庞籍极为重视城市文化生活。在延州，司马光住在太常博士马承之的东馆，除了他和庞籍唱和写了不少诗篇外，自己也有不少诗作。
庆历四年（1044年），司马光守丧期满，出任武成军（治所今河南滑县东浮宫之职。武成军即滑州，是个节度州，武成军即节度之名。第二年，司马光又改宣德郎将作监主簿，权知韦城县事。韦城县仍属滑州。知州张锡以龙图阁直学士知滑州，地位虽高，生活却十分俭朴，“奉养如少贱时”（《宋史·张锡传》）。他是一位学者，读书老而益笃，曾得宋仁宗的赞扬，亲笔写了“博学”二字，“即其家赐之”。张锡曾对司马光说：“自己喜欢读，读了几十遍，把简编都翻烂了，每读过一遍，都有新的收获。”看来两人十分相得，显然他也给司马光以良好的影响。在滑州，司马光也读了不少书，写了不少史论的文章。他自幼就对历史有浓厚的兴趣，随着年龄的增长，阅历的加深，此时除公务之外，更是把主要的精力集中于学习与研究历史上面。他写了《机权论》、《才德论》、《廉颇论》、《应侯罢武安君兵》、《项羽诛韩生》、《汉高祖斩丁公》、《张巡评》等论文数十篇。这些探索历代统治者治国的得失，总结历史经验教训的研究工作，为后来编写《资治通鉴》奠定了坚实的基础。
司马光权知韦城虽不到一年，但却是“政声赫然；民称之”（《滑县志》）。过了25年之后，他因事又经过这里，感慨地写下了诗一首：
二十五年南北走，
遗爱寂然民记否？
昔日婴儿今壮夫，
昔日壮夫今老叟。
（《传家集》卷三）
在滑州，司马光与上司、同僚都相处得很好。公务之余，他常与同僚聚会吟诗。庆历五年（1045年）冬，司马光改任大理寺评事补国子直讲的职务，在告别滑州进京之日，虽然天寒地冻，可同僚们仍然置酒为他饯行。他很感激，赋诗留别：“不辞烂醉樽前倒，明日此欢重得无？”“追随不忍轻言别，回首城楼没晚烟！”（《传家集·留别东郡诸僚友》）一年之后，在京城的司马光还是念念不忘旧友，又写下《去岁与东郡幕府诸君同游河亭望太行雪饮酒赋诗今冬罢归京邑怅然有怀》诗一首：
健笔千篇富，醇醪一醉欢。
困犹挥落塵，瞑不顾归鞍。
多事光阴驶，离群会合难。
谁知生满袖，今日客长安。
（《传家集》卷九）
评事是掌管刑狱的大理寺中一般的官员。那时大理寺不办案子，只是平议各地报到朝廷请求裁决的案子。国子直讲是大学中负责讲授经书的职务。后来，司马光迁为大理寺丞，也还是京中一般的官职。
庆历七年（1047年）十一月，贝州（治所今河北清河）宣毅（禁军中步兵的番号）军卒王则利用弥勒教组织士兵与居民，发动起义。他们占领州城，生擒知州张得一；杀死通判、司理参军、节度判官、清河县令和主簿；设官建国，国号“安阳”，年号“得圣”。朝廷派兵镇压，围困了州城。这时，庞籍早已内调京城任枢密副使，管理全国军事。司马光便给他上书，为镇压农民起义献策。书中说，自己的官微，乱发议论是“罪之大者”，但为了报答朝廷的德与庞籍的恩，宁可自己获罪，也要冒昧进言。他建议攻城不要“用兵碎”，而要“以计破”。兵围州城“勿攻勿战”，以重赏募人潜入城内，“焚其积聚”，造成其给养困难，然后再派人谕降，宣布胁从人能捕斩首恶出降者，予以重赏；悔过自新者不判罪；抗拒者，杀无赦。欲以此计来分化瓦解起义军。从上书中，可以清楚地看到司马光的阶级局限性。负责镇压王则起义的体量安抚使明镐，以“有能获贼者，授请卫上将军”为诱饵，诱使城内汪文庆为官军内应，接应官军入城。由于起义军的英勇抗击，官军被打败。明镐又另施一计，悄悄挖地道通向城中，出其不意地猛烈进攻，使起义军坚持了66天的战斗终于失败了。王则被俘，惨遭杀害；起义的“余众”，皆焚死。
庞籍在朝中越来越得到仁宗的信任，仁宗皇祐元年（1049年）升任为枢密使。他十分爱重司马光，向朝廷举荐他为馆阁校勘，但却未被允准。两年之后，庞籍升为宰相，再次力荐司马光，这次司马光得到这一职务，并同知大常礼院。宋初以史馆、昭文馆、集贤院为“三馆”，都设在崇文院内，太宗晚年又在崇文院内建秘阁，于是有“馆阁”之称。馆阁是国家藏书的地方，也是人才荟集之处。从高职位的直馆到低职位的馆阁校勘，除非俊才，都要经过考试，然后才可任命。但任职后遂成为天下名流。馆阁校勘是负责图书典籍的编校，这对自幼爱好经史的司马光来说，是一个再好也不过的职务。他利用能够阅读朝廷丰富藏书的好机会，又进一步加深对学问的研究。他把系统研究《孝经》的成果写成《古文孝经指解》，呈于皇帝，后来藏进秘阁。他还和同僚一起上书仁宗，请求将崇文院所藏的《荀子》和扬雄的《法言》，精心考证、校订，雕版印刷。此时，范镇也是馆阁校勘。当皇帝亲临崇政殿策试贤良方正和武举进士时，他俩同时被派作“雠校策卷”的工作。仁宗还亲书“四民安康”赐给他们。
同知太常礼院是负责拟定典礼仪式的职务。司马光对这一职务同样认真负责。皇祐四年（1052年）太师中书今夏竦去世，由于仁宗对他的偏爱，谥号“文正”。大臣的谥号，是根据本人生前的行为品德诏下太常礼院拟定，然后再奏请皇上定夺。而夏竦从为人到政绩都不值得称道，赐以谥号中最好的“文正”是名不副实的。司马光不怕冒犯皇上，两次上奏指出夏竦“奢侈无度，聚敛无厌，内则不能制义于闺门，外则不能立效于边鄙。言不副行，貌不应心。语其道德，则贪淫矣；语其正直，则回邪矣，此天下所共闻。”如果皇帝“欲以恩泽之私，强加美谥”，这样好坏不分，是非颠倒，则“足以伤国家之至公”，便失去了谥法的作用和意义。仁宗看到司马光力陈利害，也考虑其后果，最后改赐“文庄”。
皇祐五年（1053年）司马光再次在庞籍的推荐下，迁任殿中丞、史馆检讨，修日历，又改任集贤校理。这些都是专职史官的职务，对司马光研究历史更为有利了。当时史官在修《时政记》和《起居注》时，都不记载西夏、契丹与宋朝为敌的事，而司马光认为应该记载，并欲去枢密院查阅资料，加以补修。
这一年，庞籍被罢相，降为户部侍郎，出任郓州（治所今山东东平）知州。他推荐司马光为郓州典学。至和元年（1054年）春，司马光刚被任命群牧司判官，当时任制置使的是包拯，同为判官的有王安石，朝中大臣欧阳修、范镇、宋敏求、石扬休等人，都与司马光志趣相投，然而司马光却毫不犹豫地离开京师，前往郓州。
司马光自27岁来到京师，到36岁离京去郓州，这期间有近10年的时间。这时的司马光在政治上是一个成熟的官员，在学识上也是一个饱学之士。他的真才实学已经开始引起人们的注意，当时的著名学者吕公著就认为他“可谓实过其名”（顾栋高：《司马温公年谱》卷一）。在家庭生活中，皇祐二年（1050年），他第三个儿子降生了。在此以前，张氏夫人已生过两个儿子，但都夭亡了。为了使新生儿能健康成长，他给儿子起名康，司马康给父母带来安慰与希望。
秋天，司马光来到郓州，年底升为通判。负责考察全州的官吏。东阿县有一个主簿寄书给他，以自我表功，拉关系的方法，企图求得升迁。司马光对这样的人十分反感，将他顶了回去。
第二年冬天，庞籍改授河东路（治所今山西太原）经略安抚使、知并州（今山西太原）。司马光再应庞籍之荐，任并州通判。在天寒地冻的严寒季节赴任。全家人顶风冒雪“北上太行岭”，走在“一逞仅可通人行”的山路上，“童饥马羸石磴滑，战栗流汗皆成冰。妻愁儿号强相逐，万险历尽才到并。”并州当时是苦寒的边城。司马光之所以不留恋京城到郓州，再到并州，是为了报答庞籍栽培、提携之恩，他说：“我来盖欲报恩分，契阔非徇利与荣。古人有为知己死，只恐冻骨埋边庭。”（《传家集·苦寒行》）
至和三年（1056年）正月，仁宗突然患重病，神志错乱。时年46岁，却无子嗣。五月，知谏院范镇上书，请求仁宗为宗庙社稷考虑，早定继承人。在并州的司马光闻知后，也立即向朝廷呈上《请建储副或进用宗室第一状》。他以历史上的经验教训说明“治乱安危之几，何尝不由继嗣哉！得其人则治，不得其人则乱；分先定则安，不先定则危”。因此立嗣是朝廷“至大至急之务”，“若失时不断”，将悔之无及。然第一状奏上之后，被留中，仁宗毫无反响。司马光又连上二状、三状。此两状降付中书，同样“皆沓然若投沙砾于沧海之中，莫有知其所之者”（《传家集·与范景仁书》）。为此，司马光曾坐寝不安。后来他又把三份奏状一起寄范镇，请他进见皇帝时代奏。范镇接到司马光的奏状后，更是以辞官和效死力奏。当此国嗣未定之时，天下寒心，可平日以勇悍不屈、忠直自负的中外大臣都缄口不言，惟范镇首建此议，司马光继之，接下来庞籍也有请立皇储的密奏，可都没有结果。
河东路是边郡，西北是西夏，北面又有辽国。虽说庆历四年（1044年），宋、夏达成了协议，名义上西夏对宋称臣，可宋每年要送给西夏15万匹绢，7万两白银和3万斤茶叶，同时恢复了沿边榷场互市。此后双方的战争暂告一段落，然而加强边防的军事建设，却是地方官员不可忽视的重要职责。司马光对此十分重视，他经常深入民间，听取当地人对备边的意见。并州乡贡进士刘邕，对边事很有研究，他撰写了《边议》10卷，“据古论今，指陈得失”，对边事的论述很有道理。司马光就大力向朝廷推荐，并建议予以奖励。
河东郡是个贫困的地区。和西夏交界的麟州（今陕西神木）地区，有一条南北走向的屈野河（今称窟野河），河西岸土地肥沃，却被西夏占领，他们在这里春耕秋收，并常常诱击宋军，使麟州暴露于他们的兵锋之下。庞籍曾指示过宋军勿与夏军发生冲突。麟州知州武戡等人建议在河西地区修建小堡，以便加强防卫，同时可以收回河西之地，募民种粮。庞籍同意了这个意见，于嘉祐二年（1057年），派司马光前往河西实地勘察。此时，河西的夏军都已退走，麟州守军已在这里建有一堡，派兵巡守。此间数十里，绝无夏军的一兵一骑，如果趁此机会，再在河西20里内的地方修建两堡，每堡10日可成，等夏军再集结入寇时，宋军已经有防备了。司马光认为这个办法可行。回并州后便把麟州的情况及建堡的意见都禀告了庞籍。庞籍同意这样做，一方面禁绝边民与西夏互市，一方面决定修堡。为了抢时间，在上奏朝廷的奏状尚未批复之前就开始行动了。然而不料此时夏军已开始集结，武戡与带兵官郭恩等带兵到了河西，却没敢动工修堡。可是，郭恩有勇无谋，在五月五日夜里，乘醉出兵，结果被夏军打得大败，他自己也被夏军所杀。朝廷怪罪下来，命新任御史审理此案。庞籍不愿牵连司马光，欲独承罪责，故而在审理时，将司马光有关建堡的文书匿藏起来。最后庞籍以“擅筑堡于边以败师徒，又匿制狱所取文书”（《传家集·太子太保庞公墓志铭》）罪，解除节度使之职，谪知青州（今山东益都），武戡等人也都受到了降职的处分。而司马光没受到责罚反被调进了京城。
六月份，司马光回到京城，可心中非常不安。他听到朝中纷纷议论，就急于说明事实的真相，又似乎无人相信。他既愁且急，以至于“每一念此，昼则投著辍餐，夜则击席叹吒。”于是他“守阙上书”，连奏三状。请求“朝廷若不以修堡为非，庞籍等必不受责；若以为非……皆臣所致，若置其罪，臣当为首。”特别说明庞籍并未“身至河西，周知利害”，而是出于“欲为国家保固疆围”，“发于忠赤，不顾身谋”，才“过听臣言，以至于此”，治罪应当“独治臣罪，以正典刑”（《传家集·论屈野河西修堡状》、（《二状》）。司马光还写信给因此事而遭贬的麟州通判夏倚说：“今诸君俱被谴责，而光独得无咎，是卖诸君以自脱也，将不得列于人类，其为羞愧，可胜道哉？”（《传家集·与夏秘丞倚书》）可庞籍又上奏章，将一切责任揽在自己身上，请求朝廷不要加罪于司马光。由于庞籍的回护，司马光始终没有受到责罚。对于这位年已70的长者的深情爱护，司马光感到万分歉疚，在庞籍面前似乎感到无地自容，可庞籍待他还犹如既往，这就使司马光更加感动。6年后，庞籍去世，司马光侍奉庞夫人就像生母一样，对待他的儿子像亲兄弟一样，为世人所赞扬。
三尽职谏官
司马光再次入京做官，初任判吏部南曹，迁开封府推官，赐五品服。可他一直想调为外任，曾两次上书，要求到离家乡较近的虢州或维州、乾州任职，理由是自己无办事才干，身体又不好，多年未回故乡等，但均未被批准。不久又新任度支员外郎判勾院之职。度支勾院是三司所属三勾院之一，主管各地申报钱粮、百物出纳账簿的审核。三司是当时最高财政机构，主管长官三司使仅次于宰相，号称计相，其下属职务也很重要。可司马光又第三次上疏再申前意，仍然未被允准。不久擢修起居注，并且与王安石在一起。这样，在前三年中，官职频繁的变更。
嘉祐六年（1061年），司马光擢起居舍人、同知谏院，从此任谏官直到英宗治平二年（1065年），任期5年之久。
谏院是真宗天禧元年（1017年）始置，主要“掌规谏讽谕。凡朝政缺失，大臣至百官任非其人，三省至百司，事有违失，皆得谏正”（《宋史·职官志一》）。司马光在任修起居注时曾连上5状，坚决推辞，而接到谏官的诏书，他却欣然前往，这是因为他可以直接向皇帝进谏，是他向往已久而求之不得的事。他说：“虽在外方任他官，犹愿竭其愚心陈国家之所急，况今立陛下之左右，以言事为职……诚微臣千载难逢之际。”（《传家集·陈三德上殿札子》）谏官专言朝政得失，指陈君臣百官的过错，常常惹来嫉恨，与人结怨，是一个没人愿干的差事，而司马光却竭尽忠诚，朝廷内外大小事他都关心，直言不讳，恪尽一个谏官的职守。