按照宋朝惯例，地方官三年秩满，经国家考核合格，可升官或调任京官，但心怀“矫世变俗”之志的王安石，却想利用做地方官的机会，施展自己的才学和抱负，从二十二岁到三十八岁，他主要在地方上任职，并已开始进行局部的政治改革试验。他在任鄞（jìn）县（今浙江省宁波市鄞州区）令时，及时了解农业生产情况，兴修水利，并又在春天把官府的存粮借贷给农民，相约秋后加息偿还，不仅解决了农民青黄不接时的生计困难，同时使官仓中粮食更新，政府还增加了收入。这实际上是后来青苗法的雏形。这一举措“邑人便之”，而州、路长官更认为他治民有方。任满后升为舒州（今安徽省潜山县）通判。
北宋时期的士大夫多是挖空心想在馆阁中谋一职位，以便有机会接近达官显贵而高升。王安石却从不在这一点上动心思。他这一有违时尚的举动，反倒引起朝廷的注意。当时文彦博做宰相，多次在仁宗面前称道王安石恬退（不急于仕进）有为，建议越级提拔，以激励人们勤于民事之风气。此后朝廷多次召他入馆阁，他都辞而不就；欧阳修荐其为谏官，他又以祖母年高婉言拒绝。直到舒州任满，在欧阳修的提议下，他才入京担任群牧判官一职。然而自上任始，他又多次请求回到地方官任上去做些实事。于是在嘉祐二年（1057）他被任命为常州知州。王安石在常州，仍以兴修水利为己任，曾做出挖运河的决定，后因两浙西路转运使的掣肘，工程半途而废。
王安石长期任职地方官，使他目睹了时政的种种弊端和由此而造成的国弱民贫的现实，更使他产生强烈的变革现实的欲望，而他的“恬退”声誉又使得许多朝臣呼吁他到朝廷做官。嘉祐三年，王安石被调入京任三司度支判官。北宋的三司统筹国家财政，与中书省、枢密院分掌国家的财、政、军大权。王安石调任三司判官，受重用之意十分明显。他上任不久，即写下《上仁宗皇帝万言书》，倡言改革，但未受仁宗重视。
英宗即位后，仍未采纳他的建议，他常感愤然。他曾值集贤院。据《宋史·本传》载：“先是，馆阁之命屡下，安石屡辞。士大夫谓其无意于世，恨不识其面。朝廷每欲畀（bì，给予）之美官，惟患其不就也。明年，同修起居注，辞之累日。阁门吏赍（jì，送）敕就付之（把朝廷敕文送给他），拒不受；吏随而拜之，则避于厕（躲到厕所里）；吏置敕于案（桌子）而去，又追还之；上章至八，乃受。”由此可见，王安石力辞馆阁之职的情况。后又知制诰，纠察在京刑狱。
王安石不求调任京官，前后有近二十年的地方官经历。这固然表现了他不慕官禄的“恬退”，但更重要的是，他要在地方官职位上了解社会，了解民情，并按照自己的想法实行局部改革，积累经验。事实证明，长期的地方官经历为他后来的改革奠定了坚实的理论基础，提供了实践经验。