公元219年（建安二十四年）魏諷謀反時，黃門侍郎劉廙之弟劉偉被魏諷誘同，如今按罪連坐，劉廙亦當誅。陳群便向曹操進言，曹操亦道：“劉廙是名臣，我的本意也想要赦免他。”於是隻是調任他的官職而已。劉廙因而深感陳群之德，陳群卻認為：“審議刑罰是為國之大本，不是為了私意；而且如今這決定是明主的本意，我又知道甚麼呢？”陳群的弘博而不伐功，就是如此。
同年十月，孫權上書稱臣，稱說天命。曹操以孫權之書示外道：“這小子想把我放在爐火上嗎！”陳群便與尚書桓階上奏：“漢自安帝已來，政去公室，國統數絕，至於今者，唯有名號，尺土一民，皆非漢有，期運久已盡，曆數久已終，非適今日也。是以桓、靈之間，諸明圖緯者，皆言‘漢行氣盡，黃家當興’。殿下應期，十分天下而有其九，以服事漢，群生注望，遐邇怨歎，是故孫權在遠稱臣，此天人之應，異氣齊聲。臣愚以為虞、夏不以謙辭，殷、周不吝誅放，畏天知命，無所與讓也。”
建製九品
公元220年（延康元年）曹丕即王位後，封陳群為昌武亭侯，徙為尚書。其間，陳群建製九品官人之法，成為曆史名製。
同年，曹丕稱帝，陳群遷尚書仆射，加侍中，徙尚書令，進爵穎鄉侯。黃初中，曹丕意欲追封卞太後父母，陳群奏道：“陛下以聖德應運受命，創業革製，應當永為後世所循之式。按照典籍上之文獻，從無婦人可以分土命爵之製度。在禮典，婦因夫爵。嬴秦違於古法，而劉漢則沿承古例，這可不是先王之令典啊。”曹丕大悟，便道：“此議甚是，既然如此，且勿施行。以此作著詔下藏之於台閣，使其永為後式。”
在曹丕受禪時，朝臣三公以下皆受封爵位；獨華歆因為以神色不合觸忤曹丕，所以隻是官徙司徒，而並無進爵。曹丕久不能釋懷，便問陳群道：“我應天受禪，諸侯群後，無不人人喜悅，其形盡現於聲色，惟獨相國（指華歆）和你臉有不豫，這是為了甚麼呢？”陳群便離席長跪道：“臣與相國曾為漢朝之臣，內心雖為陛下感到喜悅，但在義理上，臣等的神色實應畏懼、甚至憎恨陛下才對。”曹丕聽後大悅，方知其意。
當年，蜀司徒許靖曾執兄禮以事陳群之父陳紀，又與陳郡人袁渙、平原人華歆、東海人王朗等親善；所以陳群在魏初為公輔大臣時，常與許靖有書信往來，重結舊好，情義款至。
黃初三年（公元222年）劉巴卒後，陳群齎信與丞相諸葛亮，問劉巴的消息，並稱“劉君子初”，甚為敬重。
黃初四年（公元223年）陳群與仆射司馬懿並舉泰山人鮑勳為宮正。同年，陳群與司徒華歆、司空王朗、太史令許芝、謁者仆射諸葛璋分別致書與蜀相諸葛亮，向其陳說天命人事，希望蜀漢能舉國稱藩，但徒勞無功。
清流雅望
黃初六年（公元225年）曹丕親征孫權，軍至廣陵，使陳群領中領軍。
黃初七年（公元226年）曹丕師還壽春，以陳群假節都督水軍。曹丕回到許昌後，拜陳群為鎮軍大將軍，領中護軍，錄尚書事。鮑勳時為治書執法，因屢次麵諫曹丕而觸怒曹丕，後又於陳留郡界包庇太守孫邕，被收付廷尉並議死罪。陳群便與太尉鍾繇、司徒華歆、侍中辛毗、尚書衛臻、守廷尉高柔等聯書並表“鮑勳父鮑信曾有功於太祖曹操”，求請赦免鮑勳死罪。曹丕不許，仍誅鮑勳。
夏五月丙辰，曹丕得疾甚危，陳群與曹真、司馬懿等並受遺詔輔政。
明帝曹叡即位後，陳群進封潁陰侯，增邑五百，並前千三百戶，與征東大將軍曹休、中軍大將軍曹真、撫軍大將軍司馬懿並同開府。十二月，陳群又升為司空，故錄尚書事。
是時，曹叡正初臨政，陳群便上疏道：“《詩》稱‘儀刑文王，萬邦作孚’；又曰‘刑於寡妻，至於兄弟，以禦於家邦’。大道自最近開始，廣化於天下。自從世道喪亂以來，幹戈未曾收戢，百姓不識王教之本，而懼亂陵遲已經太過。陛下當盛魏之隆，荷二祖（曹操、曹丕）之業，天下正希望世政至治，唯有以崇德布化，惠恤黎庶，方是百姓之幸。但是如果諸臣群下意盡雷同，是非相蔽，這可是國之大患啊。若群臣不和睦則有讎黨，有讎黨則毀譽無端不止，毀譽無端則真偽失實，不可不深防備，先做好斷絕這種源流的措施。”陳群為司空期間，能任賢用能。
他重視妻弟荀顗，以之為奇異；又辟北地人傅嘏為掾。陳群亦曾上言舉薦當世隱賢管寧：“臣聞王者顯善以消惡，故湯舉伊尹，不仁者遠。伏見征士北海管寧，行為世表，學任人師，清儉足以激濁，貞正足以矯時。前雖征命，禮未優備。昔司空荀爽，家拜光祿，先儒鄭玄，即授司農，若加備禮，庶必可致。至延西序，坐而論道，必能昭明古今，有益大化。”