此时，仁宗在位已近40年了。自从宋朝建国以来，阶级矛盾、民族矛盾与统治阶级内部的矛盾交织在一起，发展得越来越严重。各种社会危机俱已暴露。庆历间曾经有过一些改革，可不久又恢复了老样子，危机日趋加深。面对社会现实，谏官司马光首先寄希望于人君，他认为国家的兴衰，百姓的休戚，关键取决于皇帝，于是他给仁宗进上《陈三德上殿札子》。他讲：“人君之大德有三：曰仁、曰明、曰武。”“兴教化，修政治，养百姓，利万物”是为仁；“知道谊，识安危，别贤愚，辨是非”是为明；“惟道所在，断之不疑，奸不能惑，佞不能移”’是为武。“三德”相辅相成，缺一不可，“三者兼备，则国治强，缺一焉则衰，缺二焉则危，三者无一焉则亡”。其次，司马光认为国家致治在于用人和治军。于是他又上了《御臣》与《拣兵》两札子。他说：任人之道在于“一曰任官，二曰信赏，三曰必罚”。而朝廷用人之失：一是论资排辈，而不择其贤愚能否；二是更迭频繁，“远者三年，近者数月”，“如此而望职事之修，功业之成，必不可得也”。“其失在于国家采名不采实，诛文不诛意。”要改变这种状况，则需“使有德行者掌教化，有文学者待顾问，有政术者为守长，有勇略者为将帅，明于礼者典礼，明于法者主法，下至医卜百工，皆度材而授任，量能而施职。有功则增秩加赏，而勿徙其官；无功则降黜废弃，而更求能者；有罪则流窜刑诛，而无加宽贷”。
《拣兵》则言军队官兵拣选的重要性。他认为宋军的严重问题是领兵将帅“惟务人多，不复精加选择。其间明知羸弱，悉以充数”。导致的恶果是士卒不精，军队臃肿，战斗力不强，不能抵御外侮；而军费的庞大开支却十分惊人，“库府之积随得随散”，使国家“财用不足，故公私窘迫”。如遇到天灾或战争，不知将如何对付？司马光认为“养兵之术，务精不务多”，历史上周世宗因淘汰老弱，拣选精锐，增强了军队的战斗力，太祖之时，战士不过数万，而完成了统一的大业。故而请求朝廷要特意降旨，要拣军官员必须亲自“拣选好人才”，选好之后，还要再派与此无关连的秉公官员复查，如发现不合标准及羸弱病患之人，对原拣选的官员要“重行贬窜”。并建议如今后要大批招拣士兵，必须先经中书省和枢密院共同协商，根据“财用丰耗及事之缓急”来决定。仁宗将这三份奏折，一留中，一送中书省，一送枢密院，戒约拣兵官员参照执行。
以上三份奏章是为“三言”；不久，司马光又奏《进五规状》：一保业，二惜时，三远谋，四重微，五务实。一是说江山“得之至艰，守之至艰”，提醒皇帝“援古以鉴今”，为保住祖宗基业，要“夙兴夜寐，兢兢业业”地求治。二是说，保国家于“承平之时”易为功，如果在“颓坏之势从而救之者，难为力”。故而要“以此承平之时，立纲布纪，定万世之基”。人民、礼法、公卿、百吏、将帅、甲兵“是六者不可不朝念而夕思也”。三是讲要居安思危。太平之时，当思边境有警；丰收的日子，要想到饥馑；谁可以任将帅，谁可以任牧守，虽在千里之外，使之如在目前；“至于甲兵之利钝，金谷之盈虚，皆不可不前知而豫谋也。若待事至而后求之，则已晚矣。”四是恳请皇帝做一个“销恶于未萌，弭祸于未形”能防微杜渐的明君。他说安于逸乐，是荒淫的开端；珍奇玩好，是奢侈的开端；甘言卑词，为侥幸者引路；附耳屏语，给谗贼开门；不爱惜名器，僭逼之人便乘机而起；假借威福，给野心家以陵夺之柄。“凡此六者，其初甚微，朝夕狎玩，未睹其害。日滋月益，遂至固甚。比知而革之，则用力百倍矣。”所以不能不及早警惕。第五是强调“为国家者，必先实而后文”。指出当前朝廷在仁、孝、礼、乐、政、刑、求贤、纳谏、审官、治兵等十大方面存在“文具而实亡，本失而末在”。期望皇帝能“拨出浮文，悉敦本实。”否则如胶舟涉江，是十分危险的。（以上引文见《司马光奏议》）
关于皇帝建储之事，是司马光任谏官之后所关心的第二件事。有一次他面见仁宗，开口便讲起这件事，说“臣昔通判并州，所上三章，愿陛下果断力行”。仁宗夸他“此忠臣之言”。司马光高兴地认为，这次仁宗定会有所行动。可过了一些日子，仍不见动静。于是他又上疏催促。仁宗阅疏之后，很是感动，遂命送至中书省。司马光又到中书省催促宰相韩琦急速办理。嘉祐七年（1062年）仁宗立堂兄濮安懿王赵允让的第13子赵曙为皇太子，从此皇储问题终于得以解决，可以避免因觊觎皇位而引起统治集团内部的争斗。司马光在这个问题上也就放心了。
司马光的忠心，赢得了仁宗的信任，擢升他任知制诰。这个职务掌管起草诏令，常在皇帝左右，有着极高的荣誉，多是由“文士之高选，儒林之极致”者充任。然而司马光却不愿任此职，刚到任就递状辞职，甚至冒着屡违诏命，皇帝降罪，予以诛罚之险，连上九状，最后终于辞去知制诰，达到了目的。
嘉祐八年（1063年）三月底，仁宗病卒。四月一日英宗赵曙即位，由于哀伤过度，原也有病，不能亲政，恭请曹大后代摄国政。仁宗时积贫积弱的局面已经形成，他这一死，各种矛盾又急剧上升。面对严峻的局势，司马光和一些臣僚一样十分担心。他认为统治阶级内部能够协调，天下尚可安定，否则必然大乱。于是他于四月十三日进《上皇太后疏》陈述了自己对安定局势的意见。他认为“方今天下之势危若累卵，大小战战，忧虑百端，若非君臣同心，内外协力，夙夜勤劳，以询国家之急，则祸难之生，岂可胜讳哉”！他的具体意见一是“安危之本，在于任人”；二是“治乱之机，在于赏罚”；三是“为政之道，莫若至公”。（《司马光奏议》）司马光所担心的不仅君臣能否同心的问题，而且还注意到英宗与曹太后的之间的矛盾，使他更为关心。
赵曙4岁时曾就养宫中，当时曹皇后对他还是十分关心与照顾的。继位之后，由于有病，举止有些异常。“时有不逊语”，对左右宦官时常发火。左右常把这些情况报告给太后，也有人乘机离间。太后听后很是不满。又不是亲生骨肉，关系能否融洽，令人担心。为此司马光进《上两宫疏》讲道：“祸福之原，其来甚微”，“金堤千里，溃于蚁壤；白壁之瑕，易离难合，况社稷之重，非特金堤也；骨肉之亲非特白壁也”。太后与皇帝的关系，犹如人的“头目与心腹”，皇帝没有太后的支持，则“无以君天下”，太后离开了皇帝，也“无以安天下”。故而两人骨肉至亲“上当以恩意相厚，不当较锱铢之是非也”。万一有人挑拨离间，“当立行诛戮，以明示天下”。（铜马光奏议》）十一月二十六日，一天司马光就进《上皇太后疏》、《上皇帝疏》两个奏疏，再次调解太后与皇帝的关系。他以汉章帝刘炟与明德马皇后也不是亲生母子为例，他们“母子慈爱，始终无纤芥之间”，成为千秋美谈。对太后说，英宗在藩邸和即位之初，对太后还是十分孝敬的，只是病了以后，才语言不周，病愈后定会孝顺如初。又恳请英宗要像汉章帝那样孝敬太后，对生父不要加尊号，在病愈之后，要亲向太后自责，“以谢前失，温恭朝夕，侍奉左右”。
司马光的奏疏，对缓和两宫的矛盾起到了好的作用。英宗病稍愈，事奉太后“昏定晨省”。当司马光知道两宫不和不仅是因病的缘故，所以连上四道《言奉养上殿札子》。对司马光的话，英宗多都采纳，事奉太后比往日更加礼勤。治平元年（1064年），曹大后撤帘还政。司马光唯恐英宗“独揽万机”后，举措失当，提醒他要提防小人，国事要自决；而宫禁之内，凡事要禀明太后而后行，甚至连母子相见时，如何“温颜”，怎样“语笑”的细节都考虑到了，调停工作极为细致。在调解两宫关系，朝中其他官员也都做了一些工作，然而效果最好的还是司马光，所以称他“调解骨肉，功为不小”（《司马温公年谱》卷三），这个评价很公允。
司马光任谏官期间，基于“国以民为本”的思想，多方关心人民的疾苦。他认为只有利于百姓，才能安定国家。嘉伤七年（1062年）七月，他上《论财利疏》，长达5000余言。他言道，农业是天下最重要的事业，而天下最苦的是农民，他们“苦身劳力，衣粗食粝，官之百赋出焉，百役归焉，岁丰则贱贸其谷，以应官私之求；岁凶则流离冻馁，先众人填沟壑”。“农者不过二三，而浮食者常七八”，致使农村劳动力锐减，从而导致国家“财力屈竭”。他建议朝廷要采取切实的利民的措施，以保证国家赋役的来源。其一要选拔培养理财官员。其二要减轻农民的负担。其三要提倡节俭，裁省冗费，反对挥霍，而且要从皇帝的亲属、近臣做起。有以奢丽之物“炫耀或献媚取宠者”，一律“明治其罪”。在用人上要选廉良者，诛退贪残者。
司马光还上疏谏止宫中的宴饮、赏赐之风。他曾上《论宴饮状》，恳请仁宗罢宴，以“慰元元困穷之望”；减少游观之处，“以悯恤下民”。仁宗死后，英宗将其百余万的遗物赏赐给群臣。司马光又上《言遗赐札子》反对这样做，反而建议允许侍从之臣捐资修建仁宗陵墓。又将自己所得的赏赐交给谏院为公使钱。
当京西、陕西两路因旱灾歉收时，司马光又上疏乞求朝廷“宽其租税”，对重灾区应该“倍加存抚”。
治平元年，西夏进犯。英宗采纳韩琦的意见，诏刺陕西百姓20万为义勇军。百姓不愿当此与囚犯差不多的苦差多逃亡，而官吏严密缉察，即使“深山穷谷无得脱”。司马光上《乞罢陕西义勇札子》谏止。他讲庆历年间招募弓手时，已经给陕北百姓带来无穷的灾难，至今未得到恢复，又屡遭灾荒，如再刺义勇，必“大致惊扰，人人愁苦”，“是贼寇未来，而先自困弊也。”何况陕西正规军队人数很多，不至于缺乏。几天后，司马光又写好第二道札子，并上殿面谏。英宗同意将礼子送交中书省、枢密院商讨。然而原命早已下达旬日，难以更改。司马光不顾有杀身之祸，又连上札子，要求追回成命。并与首倡此议的韩琦当面辩论。但韩琦是宰相，大权在握，并未接受司马光的意见。
司马光对这次进谏的失败，感到非常失望，使原来的积极性受到沉重打击，于是在年底不到一个月的时间里，连上5状，要求降黜不再任谏官，但是未被允准。治平二年（1065年）十月，司马光擢龙图阁直学士，仍兼谏职。司马光又乘机连上三状，坚决辞职，最后终于被允准了。司马光任谏官5年，时间之长是本朝前所未有的。他恪尽职守，也是本朝最忠实、最出色的谏臣。
四反对变法
龙图阁直学土是皇帝的侍从之臣，备皇帝顾问，或做些议论、校雠的一类事情。司马光任此职约一年多的时间。
治平四年（1067年）正月，英宗病死，神宗赵顼即位。这时的司马光已是仁、英两朝的名臣了，在参知政事欧阳修的保举下，很快被擢升为翰林学士，不久又迁御史中丞，很得神宗的赏识与器重。
神宗即位时，年仅20岁。这位年轻的皇帝面对着“天下弊事至多”的严重局面，产生了不可不改革内政的念头。当时宋朝的严重弊端莫过于“三冗”。在政治上，国家机构庞大，重叠臃肿，加上“恩荫”制度，朝廷中形成一个官吏数量骤增的冗官群。司马光估计，官吏繁冗，“十倍于国初之时”。官俸的支出十分惊人，再加上各种的恩赏，严重地损耗国家的财富。且人浮于事，职掌紊乱，“十羊九牧”，遇事推诿，工作效率极低。某些官吏，无事可做，只知贪污受贿，欺压百姓，造成严重的后果。正如欧阳修所说：“方今天下凋残，公私急困，全由官吏冗滥者多。”（《再论按察官吏状》）在军事上，全国军队有禁军、厢兵、多兵。藩兵四种，士兵人数增至一百四十余万的冗数。军费的庞大是国家全年总收人的5/6。“财用不足，皆起善兵。十分，八分是养兵，其他用度止在二分之中。”（《朱子语类》卷一一○）神宗忧虑地讲：“穷吾国者，兵也。”且军队更戍频繁，兵不识将，将不认兵，训练整治无力，战斗力不强，屡战屡败。除巨额的官俸、兵饷之外的冗费尚有：对辽国的贡银，对西夏的赐银，郊祀的恩赏，皇室的侈靡挥霍。还有僧尼道士日益增多，他们不劳而获，生之者少，食之者众。诸如此类，使国家产生了严重的危机。神宗为了改变这种现状，酝酿着一场改革。
为了搞好改革，神宗曾向大臣们征求意见。司马光把过去进给仁宗的治国“三言”进给神宗。当神宗问到宰相富弼怎样才能富国强兵时，富弼回答说：“首当推恩爱、布德泽，二十年未可道着用兵事。”（朱熹：《三朝名臣言行录》卷二）还有其他大臣各有自己的意见，但是它们都与神宗的想法不合。惟有王安石以“理财”为重点“变更天下之弊法”的主张，得到神宗的赞赏。于是在熙宁二年（1069年），神宗重用王安石，命他为参知政事，主持变法。
王安石（1021~1086年）字介甫，号半山，抚州临川（今属江西）人。才华出众，胸怀大志。青少年时期曾随父亲到过很多地方，目睹了当时“民劳财匮”的社会状况，心中就埋下了立志改革的种子。22岁时考中进士，在任地方官时，局部地推行了改革弊政的新措施，显示出他的才干。嘉祐三年（1058年）由提点江东刑狱调入京城为度支判官。这时他写了著名的《上仁宗皇帝言事书》（俗称《万言书》），提出了酝酿多年的革新主张，当时虽未被采纳，但为后来的变法奠定了理论基础，也作了舆论的准备。
司马光比王安石大两岁，早在仁宗至和年间两人同为群牧司判官，二人相识。不久两人各自出外任。嘉祐年间，司马光任度支员外郎判勾院之职，王安石任度支判官，二人又同任修起居注、翰林学士等职。他们不仅是同僚，而且是“比肩并进”（司马光语）的好朋友。闲暇之时，他俩与吕公著、韩维四人常聚在一起，“谈宴终日，他人罕得预，时目为嘉祐四友”（丁传靖《宋人轶事汇编》卷十一）。然而在王安石主持变法时，司马光与他的政见不同，二人终于反目，大有势不两立之势。
二人最早的分歧，是从复议一件命案开始的。登州（治所今山东蓬莱）有一女子阿云，嫌未婚夫丑陋，将他砍成重伤，事后自首。知州因其夫未死，又能自首，故减刑二等判罪。此案报于朝廷，大理寺和刑部以谋杀已伤定罪，判以绞刑处死，知州不服。神宗命司马光与王安石定夺。王安石同意知州的意见，而司马光却认为大理寺、刑部的判决“允当”。结果，神宗同意了王安石的意见。
不久二人又出现了新的分歧。因为河北发生水灾与地震，宰相曾公亮等上疏请求皇帝郊祀时，取消赏赐大臣金帛的常例。王安石不赞同，认为对“两府所赐无多”，不赏赉不仅是“不足以富国”，而且“颇为伤体”。为怕伤朝廷体面，学士院的同僚绝大多数支持王安石的观点。而司马光却支持曾公亮等人的意见。两人在延和殿同上《郊赉札子》，并当着神宗的面展开了一场辩论。司马光认为当前国用不足，又有自然灾害，节省冗费当从亲贵开始。应该让两府辞赏为宜。王安石认为国用不足是未得善于理财之人的缘故。司马光却说善理财之人不过是聚敛百姓的财物而已，使百姓穷困于国家何利。王安石反驳说，善理财者，民不加赋，而国用饶。两人各持己见，互不相让。神宗听了辩论后，为王安石的理财思想及辩论的才能所倾服，更加深了对他的了解与信任。此后，在迩英阁讲读时，常独留王安石谈论富国强兵之计。