公元278年，太醫司馬程據向司馬炎獻雉頭裘，他不但沒有接受，還將之焚燒於殿前，並下令：內外敢有犯者罪之。所有這些，對自魏以來積重難返的奢侈之風，也許起不到根本的扭轉作用，但同那些在國家正處在艱難時期，為了滿足自己的物欲，不斷雪上添霜、火上加油的昏君來說，也算是一種明智之舉了。
至於公正待人，在司馬炎早期生活中也是隨處可見的。
泰始四年（公元268年），他在一份詔書中強調：“地方官吏必須忠於自己的職守，經常考察民情。對於好學篤道，孝悌忠信的清白之士，應竭力舉薦，對於違背倫常的不法之人，則應依法懲處。”太常丞許奇為人有才略，而其父則因犯法而被司馬昭所殺。有一次，司馬炎到太廟祭祀，許奇也在場。一些大臣擔心司馬炎會遭不測，建議不讓許奇接近左右，司馬炎不但不允，還稱讚許奇的才華，並提拔他做了祠部郎。還有一次，司馬炎在和右將軍皇甫陶討論政事時，發生了爭執，散騎常侍鄭徽為了討好司馬炎，上表要求治皇甫陶不敬之罪。但司馬炎卻說：“我憂慮的是聽不到忠諫之言，而現在鄭徽越職妄奏，這不是我的意旨。”結果，皇甫陶沒有獲罪，鄭徽卻被免官。
滅吳未竟痛失愛將
正當司馬炎勵精圖治，西晉的國威蒸蒸日上的時候，東吳卻如日薄西山，處處表現出傾頹的趨勢。吳王孫皓乖戾、殘忍、荒淫的本性在絕望的環境中向病態發展，把東吳這輛搖搖欲墜的破爛馬車又向死亡驅進了一步。
孫皓為了滿足自己的淫欲，強行規定，大臣的女兒必須先充實他的後宮，落選者才可以出嫁。為此，中書令賀邵曾加以勸阻，但對已經完全失去良知、滅絕人性的昏君孫皓來說，忠言不但不能恢複他的理智，反而萌發了他的殺機，結果，他用燒紅的鋸條鋸下了賀邵的人頭。而對於那些敢於犯顏直諫的大臣，他更是視若仇敵。尚書熊睦見孫皓為人過於殘暴，要他寬以待人，孫皓便用鐵環猛打熊睦，直至身死。不僅如此，孫皓有時還人為地製造一些悲劇，以他人的痛苦和生命來滿足變態的心理，他經常故意把大臣們灌得爛醉，使他們在酒精麻醉的情況下說出真話，然後定罪，並置之死地而後快。而所用刑罰更是凶狠殘暴，令人發指，如剝麵皮、砍雙足、挖眼珠。麵對孫皓那頂用人血染紅的皇冠，朝野上下人人自危，噤若寒蟬。
在這種情勢下，雖有一些有誌之士力挽狂瀾，竭力支撐，但無奈青山遮不住，畢竟東流去，國家的狀況還是一天天地衰敗下來。在這種情勢下，孫皓的昏庸也更襯托出司馬炎的開明，處在痛苦與黑暗中的東吳人開始向西晉尋求寄托，一些將領率眾倒戈，投降西晉。這在某種程度上進一步激發了晉人滅吳的欲望，於是，一時之間，滅吳成了朝野人士議論的話題。
對於權力欲十分強烈、不甘寂寞與平庸的司馬炎來說，祖父給他留的遺業，已不能滿足他日益高漲的政治欲望，他需要的是更加廣闊的疆土和大一統的局麵，以馳騁他的雄心。但他又清楚地知道，孫皓雖然昏聵，可東吳畢竟是一個立國幾十年，在政治經濟方麵有著牢固根基的國家——甚至當晉軍已兵臨石頭城下，它還有大小軍用船隻5000餘艘，糧食250萬斛，將士十萬多人——顯然，這是一個雖然孱弱，卻不容忽視的對手，如果在策略上稍有失誤，便會功敗垂成。因此，雖然朝野的滅吳呼聲日益增高，但司馬炎始終未輕易許諾。一直到泰始六年（公元270年），他才派尚書左仆射羊祜到晉吳交界地，當時的重鎮襄陽都督荊州諸軍事，與吳國對峙，從而進行滅吳的準備工作。
司馬炎可謂慧眼獨具，一下子就抓住了一個合適的人選。羊祜在人格和才略上都是一個無可挑剔的人物，更是一個卓有謀略的軍事家。他少年時代就以清德著稱於世，司馬炎受禪後，即以佐命之功，進位中軍將軍。鎮邊後更謹慎從事，力盡職守，不負眾望。
羊祜到荊州之後，一方麵立即占領要害之處和膏腴之地，使吳軍在軍事與物資上都處於尷尬的境地；另一方麵實行屯田，為日後的軍事行動打下了雄厚的物質基礎。羊祜上任伊始，軍中幾無現糧，可到十年以後，倉內已有十年的積蓄。在此基礎上，羊祜又采取攻心戰，取得吳人的信任，使他們在心理上產生一種對晉的親切感與對吳的疏離感。他每次與吳人交戰，總要等到日出，從不作掩襲之舉。