就是這樣一位司馬牛，雖然遭到很多反對，但以他個人的威望，還是基本保持了舊黨的團結。其後，隨著司馬光的去世，
不久，司馬光病逝，舊黨失去領軍人物，可能是習慣了在爭端中生存，掌握朝政的舊黨內部大致按籍貫分裂為洛黨、蜀黨和朔黨，進入新一輪黨爭。洛黨以大學者程頤為首，手下不少人都是程門子弟。蜀黨首領當數蘇軾、蘇轍兄弟。朔黨則以王岩叟等人為首。三黨之間，尤其是洛、蜀二黨間開始了無休無止的唾沫大戰。如果說神宗期間，新、舊黨為了變法與否和如何變法而爭，元佑初期為如何廢止新法而爭，都是為國家的興旺與百姓的生活出發，有其積極的意義，那麼到洛蜀黨爭時期，爭論的主題轉到學術上的見解、誌趣上的分歧等等，其意義則表現為黨派私利和意氣了。
洛蜀黨爭的起端說來也是個芝麻小事。說是司馬光死後，朝臣們去他家吊唁，此前，大家剛剛參加了宋神宗靈柩入太廟的大典，而此時，主持司馬光喪禮的程頤不幹了，他的理由很簡單，孔子說了：“子於是日哭，則不歌。”意思是，一個人當天哭過了，就不能再唱歌，而這幫人今天剛參加大典聽過音樂了，就不能再哭。蘇軾立即不幹了，理由更簡單：論語上並沒說“子於是日歌，則不哭。”於是不顧程的反對，率領眾人進門行禮去了，事後還丟下一句譏諷程頤的話，弄得程頤很下不了台，從此與洛黨結下怨氣。不久，蘇軾因出試題與王岩叟發生分歧，朔黨也參加了論戰中來。
洛蜀黨爭的場麵十分混亂，先是蜀黨上書為蘇軾辯護，認為蘇軾與程頤的個人恩怨沒有必要擴大化，但另外兩黨窮追不舍，上書不止，大有一定要為蘇軾定罪之勢。然後是洛黨頭子程頤被免職，洛黨在意氣之下，發起更大的反擊。黨同伐異、杯葛恩怨成為這一時期沒有任何意義的主題。
正義與汙濁
轟轟烈烈的王安石變法以失敗告終，如果說真的為曆史留下了些什麼，除了一些需要吸取的教訓，更多的則是無盡的黨爭。而說起黨爭，人們很習慣於將參與黨爭的人分個層次，最起碼也有兩層，就是相互攻擊的雙方一方為君子，另一方就是小人。可是，縱觀王安石變法期間的黨爭，黨爭的雙方還真沒有幾個小人。
先說新、舊兩黨頭目王安石和司馬光，雖然在鬥爭白熱化期間，兩人相互稱對方為“奸臣”，然而，平心而論，他們哪一個不是抱著濟世安明的理想投入到政治鬥爭中去的。
王安石身為宰相，他不納妾，死後沒有遺產，他為改革殫精竭慮，恪盡職守，最後弄得身心交瘁而且眾叛親離，在憂憤中離開人世。在整個改革與鬥爭的過程中，無論是推行變法，還是打擊異己，王安石始終襟懷坦蕩，一心為公，即便是大權在握的時候，對他的對手，他從不置於死地，而僅限於降職或外放，從不曾惡意地網羅其他罪名。對比中國曆史上無數“欲加之罪，何患無辭”的伎倆，王安石的高風亮節躍然紙上。尤其是在他的對立派蘇軾遭受烏台詩案打擊期間，王安石本離開朝廷，但還是為蘇軾上書求情，大叫“豈有聖世而殺才士乎？”因為在王安石看來，他與蘇軾不存在個人恩怨，存在的隻是政見的不同。他不耿耿於懷於當初蘇軾對他的攻擊，相反，他認為蘇軾人才難得，不該蒙受此冤，其人格和胸懷可見一斑。如果說王安石在變法中犯下什麼錯誤，應該是認識上的偏頗，而不是道德層麵的錯誤。
再看司馬光，別的都不說，單從他曆時15年著《資治通鑒》，足見他的才學的淵博與品德的高尚，而非奸佞小人。妻子病故，司馬光賣田簡葬，其節儉可與王安石一比。同王安石一樣，抱著一顆憂國憂民的心，司馬光投身到政治事業中去。他因反對變法遭貶，又因反對變法獲得相位，最後在變法中耗盡全部生命。他一生命運坎坷，為的都是那份富國強民的理想。在他的老對手王安石逝世期間，司馬光上書朝廷，建議“宜優加厚禮”，以實際行動肯定了王安石的為人，此舉又可與王安石對蘇軾的態度媲美。
同樣，蘇軾在變法的起伏中，雖然也是命運多劫難，但無論自身遭受怎樣的打擊，除了文筆和語言的犀利，他從不曾懷過害人之心，更沒幹過一件害人之事。最後，還與從前的老對手王安石結成深厚的忘年交，高度評價王安石為“希世之異人。”這些當然不是一個小人的作為。
從東漢黨錮之爭到明朝閹黨與東林黨人的鬥爭，幾個不是刀光劍影，不是殘酷打擊。回頭再看王安石變法中的黨人，讓人感到一股清新之氣。