北宋中期，盡管稅收比開國之初增加了幾倍，但由於冗兵、冗費和冗官等龐大開支，造成了國庫空虛、入不敷出的嚴重局麵。神宗即位後首先遇到的就是財政上的巨大虧缺。他向司馬光、王安石等征詢解決財政困難的辦法。司馬光主張從節約入手。他認為首先應該節省朝廷開支，注意節流，例如減少對於皇親大臣的大量賜物等。王安石不同意這種看法，他提出節省開支不能解決根本問題，而應該從理財上著眼。兩人在神宗麵前曾經有過一次激烈的爭論。當時河朔旱災，國用不足，神宗下詔讓司馬光與王安石一同進見，商量應對辦法。司馬光說：“救災節用，宜從親貴近臣開始。”王安石反對說：“唐代常袞（ɡǔn）請免去政事堂宰相日常辦事時飲食供應，時人認為常袞如果自覺不稱職，應該辭去宰相的職位，不宜辭免祿食。況且府庫空虛、國用不足，不是當世急務，所以造成不足的，是沒有得到一位善於理財的人。”司馬光說：“善於理財的，也不過賦稅苛重而已。”王安石說：“並不如此，善於理財者，不加賦稅而可以使國用充裕。”
司馬光說：“天下哪裏會有這個道理？天地生產的財貨百物，不在於民間，就在於官府，如奪民所有，充實官府，造成的禍患比增加賦役還要大。這是桑弘羊欺騙漢武帝劉徹的話，太史公司馬遷將它寫在《史記》上，是要證明桑弘羊不明事理。”二人真是唇槍舌劍，互不相讓。對於市易法與均輸法司馬光認為是與商人爭利，不利於商品流通，對於保甲法，司馬光認為實行下去會使農民不安心種地。司馬光對解決家的財政危機，主張持重緩進，與王安石大刀闊斧的做法明顯不同，他們二人曾有過形象的比喻，司馬光說：“治天下有如處理房屋，破了則要修理，除了壞得很厲害是不重建的。而且重建非得要好的工匠和材料，如今兩樣都沒有，我怕連風雨都不能擋蔽。”而王安石則認為：“治天下有如醫生用藥，要知道虛實熱寒，當用治虛寒的方子時，純用烏頭附子也不嫌過熱。”針對當時社會的嚴重病症，他們都開出了自己的醫症藥方，他們都是站在維護封建統治的立場上，為北宋王朝的長治久安而出謀劃策。正如司馬光對王安石說：“我和你趨向雖然不同，但大的目標是一樣的。”王安石也說，自己與司馬光“商議事情時常有分歧，是因為各人的方法不同”。可見他們的分歧，最初是源於解決問題的思想方法不同，司馬光思想傾向沉穩持重，慮事縝密，但傳統保守是很明顯的；王安石則思想活躍激進、勇於標新立異，而慎重不足，在變法中有時操之過急，出現了一些失誤，同時也用人不當，如對呂惠卿這樣的人就缺乏全麵的了解、考驗。司馬光在反對王安石推行的一係列新法時，持全盤否定的態度，這是很不對的，他在反對王安石變法中出現的某些消極的方麵的同時，也反對了王安石的積極方麵，這就導致了他們成為政敵的原因。而司馬光在給王安石的三封長信中反複說明自己的觀點，王安石卻一點也不接受，這種剛愎自用的態度也不對，兩位本來在政治上都想有所作為的政治家都固執偏拗（niù），使北宋的改革蒙受很大損失。
以後變法派與反對派已經勢同水火，許多反對新法的輔弼大臣都被王安石趕出朝廷或主動提出辭職請求外任。司馬光也被罷了翰林學士等職，又一次離開朝廷，於熙寧三年（1070）到永興軍（今陝西西安）任地方官去了。
輝煌世著《通鑒》斐然
熙寧四年（1071）。司馬光又辭去了永興軍一職，改判西京（今河南洛陽）留司禦使台，這是一個閑散職位。從此司馬光便在洛陽住了十五年，遠避朝廷黨爭，完成了主編《資治通鑒》任務。