此后，他先后任蕭（今安徽蕭縣）、贊（今河南永城）、長平（今河南西華）等縣縣令。次年六月，他父親故亡，便辭官歸家守喪。喪事辦完，被授以司徒掾，后又升任治書侍御史，又轉(zhuǎn)為參丞相軍事，作了曹操的高級幕僚。

建安十八年（公元213年），曹操封魏公，陳群升任御史中丞，成了執(zhí)掌奏劾不法的大臣。

曹操打算恢復(fù)肉刑，即實(shí)行斬?cái)嘧锓傅哪_或割去鼻子等刑罰。他下令讓群臣討論，并問陳群：“過去你父親認(rèn)為死刑也可以體現(xiàn)仁慈和恩典，那意思是不是說，肉刑可以恢復(fù)呢？”肉刑是古代的刑罰，包括黥面、割鼻、斬足、宮刑等等。

漢文帝十三年（公元167年），下令廢除，代以笞刑，即用杖策鞭打數(shù)百來代替。例如，當(dāng)斬左腳的，鞭杖五百，當(dāng)割鼻的，鞭杖三百。結(jié)果，犯人往往被打死。

所以，陳群回答說：“漢代廢除肉刑而增加鞭杖，本是懷仁慈、同情犯人而為，不料，這樣死的犯人更多。臣父以為這是名輕而實(shí)重的作法。名義上減輕了處罰，容易使人犯罪，而實(shí)際上處罰又加重，傷害的人則更多。

古代制定肉刑，是用來輔佐治國，協(xié)助施行教化的，為什么不可以恢復(fù)一部分？如今用笞死犯人之法來代替肉刑，是看重人的肢體而輕視人的生命，有什么好呢？”鐘繇也同意陳群的看法，而王朗及其很多人則反對。

曹操認(rèn)為陳、鐘的主張很對，但是，當(dāng)時(shí)戰(zhàn)亂不息，他考慮到反對的人太多，就把恢復(fù)肉刑這事擱置起來了。

后來，陳群任侍中，在天子左右應(yīng)對顧問，同時(shí)又兼領(lǐng)丞相府西曹掾，主管府吏的署用。他在朝中，不固持己見，老成穩(wěn)重，不以歪門邪道待人。