治平四年（1067）正月，英宗去世，神宗趙頊即位，能知政事歐陽修向神宗推薦司馬光，稱讚他的品德淳正，學識淵博。神宗便於同年閏三月拜司馬光為翰林學士，司馬光極力辭謝，但未被允許。四月，又升任司馬光為禦史中丞。
司馬光為政，關心人民疾苦，這與他長期在地方做官接觸下層勞動人民有關。他提倡“懷民以仁”，認為隻有“利百姓”，才能“安國家”。所以，他對百姓給予很多關注、同情，甚至為之請命。元豐八年（1085）九月，他在上神宗的劄子中盡情地描繪了農民的疾苦，並鄭重地告誡皇帝要注意曆史上官逼民反現象。治平三年（1066），陝西、河東發生嚴重旱災，但朝廷沒有重視，反而在此時聽從佞臣之請接受上尊號，司馬光對於這種朝廷漠視人民疾苦的現象非常氣憤，上奏英宗說這簡直是“欺蔽上天，誣罔海內”。為減少百姓負擔，司馬光反對英宗下詔將壯丁二十萬人刺手背而編為義勇軍，認為陝西軍隊本來就不少，這樣會使百姓無故加重負擔。他冒被皇帝處罪的危險，連上幾道奏疏，並持詔書到中書少與韓琦辯論，兩人唇槍舌劍展開了一場激戰。
北宋時期在用人方麵存在著相當多的弊端，這也是宋代曆來積貧積弱的一個主要原因。司馬光針對弊端提出過不少好的見解和主張。首先，他認為用人當以“德”為先。熙寧元年（1068），司馬光向神宗薦舉諫官時就根據這個原則提出三個具體的條件：一是“不愛富貴”，二是“顧惜名節”，三是“曉知治體”，前兩條是德，後一條是才。他也反對近世以來，專尚文辭，以文辭代百能的取士方法。他認為，文辭隻能是有才能的人一個方麵，不足以窮盡天下士之百能。司馬光還主張選才用人應破除論資排輩、一味看重門第的陳腐觀念。治平四年（1067）五月，司馬光上疏神宗，指出如果按照國家原先選禦史官的資曆範圍規定，不但選中者不多，而且弊端不少。對於以門第高低來選擇官員，司馬光更是深惡痛絕，他提出隻要有賢才就應推舉，對於魏晉以來曆代相因的“選舉之法，先門第而後賢才”的嚴重弊端，認為一個人的德才，不在於世祿與貧賤，不能以門第劃分。他主張建立和健全選人、用人製度；改革科舉製度，設十科舉士；改進延訪薦舉和按察製度。司馬光重視推薦人才，薦舉過蘇拭、劉恕等。當然，司馬光也錯舉過人，他曾為此上書自責。晚年做宰相時，也信任過蔡京這樣的人。
保守固執否定新法
治平四年（1067）英宗去世，神宗即位。這位年僅20歲、風華正茂的皇帝很想有所作為，他欣賞王安石的變法主張。熙寧二年（1069）起用王安石為參知政事，主持變法。王安石在神宗的支持下提出一套急進、大膽的改革方案，成為變法的領袖，北宋很快掀起了一陣變法的浪潮，史稱為“王安石變法”。
麵對著北宋王朝內憂外患的腐敗局麵，麵對著千瘡百孔的社會現實，司馬光和王安石都從維護封建王朝的統治出發，都盡力想去“補天”，都想改革，但涉及到改革的內容、改革的方法，兩人就勢同水火，存在著極為嚴重的分歧了。
司馬光與王安石是老相識而且是好朋友，嘉祐年間在朝中同修起居注，神宗即位後二人又同居翰林學土之職。當時人們所稱的“嘉祐四友”，就是他倆外加呂公著和韓維。兩人同為州牧判官的時候一天被包拯請到家裏飲酒賞牡丹。當包拯親自舉杯勸酒時，司馬光雖然平素不愛喝酒，但礙於情麵，不得不勉強喝了一點，而王安石卻能夠堅持“終席不飲”，這種自製力使司馬光後來談起來還很佩服。司馬光與王安石最大的分歧是在理財方麵。