安撫俘虜公正嚴明
司馬炎當上皇帝後心裏並不輕鬆。他很清楚，雖然登上了皇帝的寶座，但危機仍然存在。從內部看，他的父祖為了給司馬氏家族奪取皇位鋪平道路，曾經對曹氏家族以及附屬勢力進行了殘酷的屠殺，這件事所造成的陰影至今仍然橫亙在人們的心中；從外部看，蜀漢雖平，孫吳仍在，雖說此時的東吳已不足以與西晉抗衡，但畢竟也是一個不小的威脅。內憂外患告訴司馬炎，要想鞏固獲得的政權，進而完成吞並東吳、統一中國的大業，首先就要加強統治集團本身的凝聚力，而要達到這個目的，就必須采取懷柔政策。
為此，司馬炎在即位的第一年，即下詔使已成為陳留王的魏帝載天子旌旗，行魏正朔，郊祀天地禮樂製度皆如魏舊，上書不稱臣。同時又賜安樂公劉禪的一個兒子為駙馬都尉。第二年又解除了對漢室的禁錮。這不但緩和了朝廷內患，尤其是消除了已成為司馬氏家族統治對象的曹氏家族心理上的恐懼，而且還安定了蜀漢人心，進而為贏得吳人的好感、吞並東吳取得了主動權。
在談到對亡國之君劉禪的處置方法時，司馬炎認為：“對於亡國之君及其舊臣，古今常見的或殺或辱的方法，朕都不用，朕要實行懷柔政策，以寬厚仁慈為先，對於他們隻要在政治上對其嚴加管束，在生活上對其優待，讓他們在安逸中消磨鬥誌，渾渾噩噩度過餘生也就罷了。”
除了對劉禪優待之外，司馬炎對蜀漢舊臣也沒有殺戮和廢黜，而是量才錄用。這一點，從他對李密的寬容上就可以看出來。
李密原是蜀國的一名重臣，早年父親亡故，母親改嫁，李與祖母相依為命，感情非常的深。李密不但孝心聞名鄉鄰，而且知識淵博，才思敏捷。司馬炎看中了他，認為他是個不可多得的人才。
一天，司馬炎親自召見了李密，他麵帶微笑地對李密說道：“朕聽說你智慧、謀略超乎尋常，是真的嗎？”李密見司馬炎和顏悅色，心不禁為之一動，答道：“陛下，臣乃平凡之輩，智謀過人實不敢當。”司馬炎見他謙和有禮，更覺珍愛，說道：“朕願重用你，真心真意地重用你，不知意下如何。”李密低頭略作沉思，隨後他抬起頭，望著司馬炎說：“臣家有老祖母，年歲已高，臣想陪祖母安度晚年，陛下的恩寵與器重，臣心領了。”
司馬炎聽後，惋惜地說：“你不僅才智過人，而且‘孝’、‘仁’兼備，朕實在欽佩啊！”李密以盡孝為理由，拒絕司馬炎的征召，並且上書了一篇悱惻動人，以至傳誦至今的《陳情表》。司馬炎便借題發揮，不但嘉其誠，還賜李密奴婢二人，令郡縣供養其祖母。等李密的母親百年後，司馬炎又詔令李密做了司馬氏家族的老家——河內溫縣的縣令，優寵之情顯而易見。
為了盡早地使國家從艱辛、動亂的環境中擺脫出來，為統一打下牢固的基礎，無為與寬鬆成了西晉之初的立國精神。泰始四年（公元268年），司馬炎在所頒詔書中明確指出：“古代雖有象刑之製，但人們並不觸犯它，今天雖具參第之法，可奸邪之事不絕。德與刑相去何遠！先帝同情百姓的獄事，故命群臣考正黃章刑法。為永保我大晉的江山，現以無為之法作為統領萬國的核心。”同年，又向郡國頒下五道詔書：一曰正身，二曰勤百姓，三曰撫孤寡，四曰敦本息末，五曰去人事。司馬炎的這些政策贏得了人心，也使西晉走上了國強民富的道路。司馬炎盡力把自己塑造成一個賢明的君主，這就是對內嚴於律己，對外力求公正。
司馬炎提倡節儉，帶頭拿出禦府中的珠玉寶物，頒賜給臣下。有關部門提出請建七廟，司馬炎考慮再三，覺得役使太重太繁，沒有批準。
泰始二年（公元266年），在安置司馬昭後事時，他下詔說：“虞舜死後葬於蒼梧，但不影響農事耕作，夏禹死後葬於成紀，也不妨礙集市營業。現遵照祖先清簡的遺規，陵墓十裏之內讓百姓居住，並且停止一切煩擾之事。”在這之後，他又下令禁止雕文綺組之物，而對於朝廷中一些人為了討好他所作的奢侈之舉，更是斷然拒絕。
有一次，司馬炎病愈後，一些大臣為之祝福，他便下詔說：“每當想到瘟疫造成的死亡，我便愴然淚下，作為一國之主，朕豈能為了自己而忘記百姓的痛苦？所有獻禮者都必須嚴加杜絕。”