公元220年，曹丕代漢稱帝，史稱魏文帝。劉曄升任侍中，賜爵關內侯。針對關羽已死情狀，曹丕提出一個問題："劉備會否向東吳出兵，為關羽報仇？"大多數臣將表示劉備不會冒險。惟獨劉曄認為劉備與關羽感情深厚，一定會借這個理由出兵東吳以振軍威。麵對劉備洶洶氣勢，孫權一邊組軍抵禦，一邊向曹魏稱藩。曹魏上下為此興竄。但劉曄卻向曹丕進言，說孫權此舉並非真心，純屬權宜，不如乘機領兵先於劉備攻滅東吳，以絕後患。但沒被曹丕采納。
夷陵之戰後，孫權果然漸顯不臣之心。曹丕惱之，欲予討伐。劉曄急阻，認為東吳剛勝蜀漢，上下一心，又有長江天險隔擋，不能如此倉卒進攻。但曹丕不聽，下令備軍、籌糧進攻東吳，結果戰況不盡人意，最後以撤了事。
公元226年，曹丕駕崩。承位的魏明帝曹睿，進封劉曄為東亭侯，食邑三百戶。次年，遼東公孫淵脅逼叔父公孫恭讓位，自立遼東太守。劉曄認為公孫淵如此胡鬧，今後極有可能發勤叛乳，建議不如趁其掌權尚未穩固，出兵討伐，全麵徹底地解決遼東割據問題，但曹睿沒有采納。公元237年，公孫淵果然起兵叛魏。
因於劉曄的預判十有八九靈驗，意欲攻伐蜀漢的曹睿，征求群臣意見。曹睿寵臣、中領軍楊暨私下探詢劉曄意見，劉曄表示認同楊暨的反對伐蜀意見。於是楊暨代表朝臣，勸阻曹睿不可伐蜀。這邊表示不行，那邊劉曄單獨對曹睿說："可以伐蜀。"
曹睿就用劉曄的觀點，欲去說服楊暨，但楊暨堅持己見。曹睿便譏諷楊暨，說他是儒生出身，不通軍事。楊暨就說劉曄也反對伐蜀。曹睿驚異，召來劉曄對質。劉曄麵對楊暨，不發一言。氣得楊暨內心惱極。後來曹睿單獨問劉曄，為何人前背後不一？劉曄說："伐蜀是國之大計，不能隨意告知任何人，如果蜀漢掌握情報，先於魏國做好防禦準備，豈非壞事。"
曹睿再次認同劉曄觀點，批評楊暨不顧場合、對象談論國事。楊暨更加惱恨劉曄，便對曹睿說："今後你臨朝議事，先用相反意思詢問劉曄，如果他每次同意，說明他是在揣摸、迎合陛下。"曹睿便予試之，結果正如楊暨所言，於是曹睿開始疏遠劉曄。
劉曄不知魏明帝曹睿因何冷落自己，先是煩燥，後是發狂，終因得病。公元234年，劉曄病逝。謚景侯。
劉曄是事奉過曹操、曹丕、曹睿的三朝元老。