次年3月，複職不久的蔣介石，任命陳誠為總司令部的中將警衛司令，兼炮兵指揮官。下轄警衛第一團、第二團、第三團，以及憲兵第一、二團；還指揮炮兵第一、二團。其實力比一個軍還雄厚。
陳誠從進黃埔軍校到參加北伐戰爭，僅僅四年的時間，就由一個上尉特別官佐升到中將警衛司令。同時，他與黃埔軍校同學建立了緊密聯係。第二期炮兵大隊學生在他的炮兵連見習，第四期炮兵大隊學生與他係師生關係。這就為他在黃埔係中形成一個軍事集團創造了有利條件。
這年8月，第一集團軍整編為六個師。蔣介石見五個師長係黃埔教官，隻有第十一師師長曹萬順是北伐初期投誠過來的，便任命陳誠為該師副師長，以便暗中加以控製。但陳誠聞訊後，大為不滿，憤而出走上海。蔣特派隨從副官把他找回南京，當麵“交底”。經過一番麵交，陳誠才於9月上旬到浦口就職。他對師長表麵上很恭順，辦事認真，以身作則。還采取措施整頓紀律，嚴禁嫖賭，並與師部官佐共進早餐，以期改變風氣。
1929年3月，蔣桂戰爭爆發。第十一師受第四軍軍長張發奎指揮。陳誠與羅卓英負責擬定作戰計劃，協助師長率部分部隊經瑞昌、武寧，越過九宮山、通山、威寧，進入武漢。他還親赴漢口的橋口、武昌的南湖督訓部隊。4月，出敵不意，進兵賀勝橋，將桂係與湘鄂的聯絡截斷，致武漢頓陷孤立。這時，馮玉祥部虎踞中原。第十一師又奉蔣介石命令，於5月開往鄂北的襄、樊等戰略要地駐防。不久，師長曹萬順因處事失當，被調任新編第一師師長，陳誠即升任師長。
陳誠一上任就對第十一師進行整頓。他公開提出選拔使用幹部的條件是“不貪財，不怕死”、會帶兵、能打仗、沒有不良嗜好、忠於蔣介石，服從其命令。他大量羅致黃埔學生，用為中、下級幹部，裁汰曹萬順的舊部。隨即將曹萬順的部隊縮編成四個團，加上自己任警備司令時的兩個警衛團，編成兩旅六團製。同時，對部隊加強整訓，提高作戰能力。
10月，馮玉祥部東出潼關，進兵洛陽。蔣介石兵分兩路迎擊。陳誠受第二路總指揮劉峙節製，率領第十一師扼守襄陽、南漳。在襄陽城郊與馮軍激戰兩天，將張維璽部擊敗。隨即，令第三十一旅、第三十二旅分別向草店、均縣追擊，直到馮軍向白河、安康退去。
蔣、馮戰爭剛一結束，在河南抗擊馮軍的第五路軍總指揮唐生智，於1929年12月1日在鄭州通電反蔣。陳誠即派副師長羅卓英趕赴湖南，說服何健部旅長王東原按兵不動，以解除蔣介石駐武漢部隊的南顧之憂，調兵北上參加討唐。同時，迅速率領第十一師從鄂北豫南北上，兼程趕到確山以東之劉店一線，協同劉峙部與唐軍作戰。一天，唐軍騎兵襲擊第十一師指揮所，他親率特務營參加戰鬥。剛好第六十六團自信陽押運彈藥趕到，加上第一師丁德隆團增援，才將唐軍騎兵擊退。在戰鬥中，陳誠偵知唐軍中有三個師的廣西部隊軍心渙散，便派人前往勸降，使其中一個師投誠。唐軍潰敗後，第十一師追擊到臨潁，才折回信陽。
1930年初，第十一師開赴武漢。2月間，陳誠派部隊將駐武昌的曹萬順之殘部第六十六團包圍，實施武力解散，將軍官資遣回籍，士兵則撥補第十一師所管轄各團。
4月，又奉蔣介石命令，收編湖北的徐聲鈺獨立第十三旅，將第十一師由原來的兩旅六團擴充為三旅九團製的甲種師，實力大為增強。
這年5月，中原大戰爆發。陳誠的第十一師屬劉峙的第二軍團戰鬥序列。9日，蔣介石令全線發起攻擊後，他率部攻占馬牧集，連克寧陵、睢縣。繼而西進，攻擊蘭封、杞縣之間的楊固集、柿園集。這時，幾經進攻蘭封、杞縣的蔣介石部隊，遭到晉軍依托堅固工事的抗擊，傷亡很大。陳誠便自告奮勇，采用中間突破戰術，企圖在楊固集打開缺口，再向兩翼卷擊。但猛攻兩天，迄未得手。隨後，他又協同蔣鼎文、趙觀濤師向左翼推進，卻遭到孫良誠、吉鴻昌等部從杞縣方麵的阻擊，連攻數日，也無進展。後又從杞縣以南迂回，企圖經通許、陳留奇襲開封，也遭到龐炳勳、梁冠英等部的抵抗，在魏寨、陳莊一帶展開了爭奪戰。6月24日，第六十一團陣地被梁冠英部夜襲失守。次日，陳誠即令旅長李默庵督第六十一、六十二團反攻，激戰終日，傷亡很大未能攻下。李默庵腎囊中彈，對陳誠說：“陳莊失守，應由劉團長負責”。團長劉天鐸是劉峙之侄，陳誠置各方麵說情不理，經報請蔣介石同意，立即執行槍決。
6月底，蔣介石發現馮軍“誘敵深入”的企圖，急令劉峙將部隊撤回睢縣、河堤嶺一線。7月土日，陳誠奉蔣介石命令，率第十一師開往津浦線，參加對晉軍作戰。這時，晉軍張蔭梧、傅作義兩路軍，從平津南下，圍攻曲阜，企圖直抵徐州。他帶領全師部隊，每天以一百二十華裏的速度，趕到兗州，直趨曲阜，與守城部隊內外夾擊，將晉軍的李生達第四軍擊潰，解了曲阜之圍。7月底，總攻開始後，他又率部相繼擊潰晉軍豐玉璽部，進占宮裏、樓德鎮；擊潰李生達軍，進占蓮花峪、華豐、磁窯，激戰傅作義部，攻占界首，白馬寺。隨即，沿鐵路線，經萬德、張夏、崮山、黨家莊，向濟南追擊。8月15日，在蔣光鼐、蔡廷鍇之第六十一師、第六十師之後進入濟南。
克複濟南後，津浦線戰事告一段落，蔣介石犒賞各軍。第十一師領到獎金二萬元，陳誠晉升為第十八軍軍長，仍兼第十一師師長。時年三十四歲，人以“童子軍”相稱。
8月下旬。蔣、馮、閻在鄭州展開決戰。鄭州是中原之心髒，為兵家必爭之地。蔣介石集中主力加緊攻擊。陳誠與夏鬥寅師，奉蔣之命，編為一個縱隊，擔任前鋒穿插任務。1930年9月6日，總攻開始。他和夏鬥寅帶領部隊，以鄭州為目標，運用錐形戰術，從西華、鄢陵和臨潁、許昌的中間地區向北挺進，大膽實施鑽襲。夏師到五女店受阻。陳誠在占領石象鎮後，以一部夜襲和尚橋，鑽進到董家店，前後縱深七十裏。吉鴻昌等部向蔣投誠後，陳誠部繼續鑽進到洧川附近，將馮軍鄭州的外圍陣地分割得支離破碎。蔣介石即命各部急速攻擊前進。
這時，忽然傳來鄭州密報：“敵將全線撤退”。時新鄭仍在敵手，人皆以為不可輕信。而陳誠研判當麵敵情，認為非虛，便超越新鄭，督師兼程猛進。為了搶先占領鄭州，向蔣介石報捷，他事先擬好電報稿，並派附員石心誌隨肖乾前衛團跟進。1930年10月6日，肖團在二裏崗擊潰馮軍的掩護部隊後，便跑步由鄭州南門入城。這時，已近黃昏，石心誌看到占領鄭州已成定局，便飛馳回到師部。陳誠立即填上時間發出告捷電報。當日黃昏，上官雲相的第四十六師的便衣隊也搜索到鄭州東站，但沒有進城。
蔣介石收到第十一師先占領鄭州的電報大悅，說：“子牧集開戰勝之端，曲阜挽垂危之局，鄭州結勝利之果。”當即發給獎金二十萬元。陳誠為了表示“不稱功，不貪財”，給蔣回報說：“職師得以首先占領鄭州，上賴鈞座指揮有方，下靠官兵用命和友軍協助之力，賞金不敢獨受，擬分半數給四十六師。”他將所得十萬元，發給每個官兵二元，約用去四萬元，其餘收作公積金。後來創辦了“十八軍南通殘廢軍人工廠”和“吉安農場”，以收容殘廢軍人和老弱士兵。這樣，既拉了上官雲相一把，又博得了蔣介石的信任。
這年11月，陳誠以觀操武官身份，陪同蔣介石前往日本觀看軍事演習。還參觀了軍事學校，訪問了僑界，使政治身價大為提高。
1931年初，陳誠將教導第三師改編為第十四師，歸第十八軍建製，自兼師長，周至柔任副師長，羅卓英任第十一師師長，形成了陳誠軍事集團的基礎。不久，開赴武漢，分駐鄂南、鄂東和平漢南段。
蔣介石向中央蘇區發動的第一、二次“圍剿”失敗後，於1931年7月親任總司令，坐鎮南昌指揮第三次“圍剿”。陳誠受任追擊軍第二路指揮官，帶領第十八軍從湖北開到江西撫州前線。當時，紅軍采取“避敵主力，打其薄弱，乘勝追擊”的作戰方針，與國民黨部隊展開“盤旋式"運動戰。他指揮第十八軍在南城、黎川、廣昌、永豐、吉水、寧都、興國等地，來回奔馳了兩個多月，沒有找到紅軍主力的蹤跡，搞得精疲力竭，“胖的拖瘦，瘦的拖病，病的拖死”。9月初，撤到吉安。
在這期間，陳誠以種種借口，采取各種手段，收編雜牌部隊，進一步擴充實力。9月，他奉命接過被紅軍打垮了的第五十二師番號，以第十一師獨立旅和第十四師攻城旅編成一個師，自兼師長，升任周至柔為第十四師師長。不久，又以兩個旅和兩個團的兵力，對駐吉安西南地區的第四十三師采取包圍態勢，威逼其師長郭華宗離開，任劉紹先為師長，歸第十八軍建製。後來，按照蔣介石的授意，將川軍張英的第五十九師包圍於永豐，除李彌團逃往撫州外，其餘全部繳械。經過兩年多時間，第十八軍就擴充到五個師，二十九個團。
這年12月，由蔣介石和宋美齡主婚，陳誠與譚祥在上海結婚。譚祥是譚延闓的三女，蔣介石的幹女兒，宋美齡留美時的同學。中原大戰結束那年，蔣介石和宋美齡親自做媒，把譚祥介紹給陳誠。他—見滿口答應：“我一切聽從領袖安排。”雖說陳誠個子不過一米六，其貌不揚，一張略長方形的書生白臉，稀疏的頭發往後平梳著，但也清秀。特別是那嚴肅的儀表，也博得譚祥的好感。陳誠升任第十八軍軍長後，便與譚祥商量子12月去上海結婚。但譚祥提出要推遲，說：“你同吳舜蓮的離婚手續書還沒辦好呐。”於是，他將第十八軍軍部軍需主任吳子奇，特地從南昌傳動南京，代替其妹妹吳舜蓮寫了一張離婚書，送給譚祥。後來，經友人調解，吳氏隻提出了一個條件：“生不能同食，死後必同穴。”陳誠欣然接受。他與譚祥結婚之後，感情很好，赴前線作戰，每日都要與譚祥通—次電話。
1932年冬，蔣介石陸續調集三個多個師的兵力，開始部署對中央蘇區的第四次大規模“圍剿”。次年1月，陳誠從南京回到杭州做準備。為了有利於軍事的進行，他提出實行所謂“限田製度”，采用向地主贖買土地的方法，實現其“耕者有其田”的主張。他認為，自國民黨執政以來，對於孫中山先生在民生主義中的“耕者有其田”的主張迄未實現，而共產黨，紅軍在江西。打土豪，分田地”，深得農民的擁護。因此，他要求江西省政府先作局部實驗，但被省主席熊式輝所拒絕。
這個月底，陳誠任中路軍總指揮，以第五軍軍長羅卓英指揮的第一縱隊、第四軍軍長吳奇偉指揮的箅二縱隊、第八軍軍長趙觀禱指揮的第三縱隊，為進攻中央革命根據地的主要突擊力量，采取“齊頭並進，分進合擊”的方針，企圖消滅紅軍主力於黎川、建寧地區，爾後進擊廣昌。當時，紅一方麵軍奉命進攻敵人重兵設防的南豐縣城，以擊破第四次“圍剿”。陳誠獲悉這一情報後，令南豐守軍第八師據城岡守，同時急令其所屬各縱隊迅速增援，企圖合圍紅軍於南豐城下。
但紅軍已采取退卻步驟，撤圍南豐。陳誠的第二、第三縱隊被紅軍的一部吸引到黎川方向。2月26日，第一縱隊為配合主力尋殲紅軍於黎川地區，以右翼第二師、第五十九師，取道永豐、樂安，分兩路向宜黃南部的黃陂地區並進，將整個右側翼暴露在紅軍麵前。第二天，其第五十二師行抵黃陂、蛟湖附近時，突然受到紅軍攔腰攻擊，被截成數段。經過兩天激戰，全被殲滅，師長李明負傷被俘。第五十二師被殲滅的第二天，第五十九師東進至霍源附近與紅軍接觸。師長陳明驥受陳誠指令率部亡命衝擊，結果全師大部被殲，師長亦作了紅軍的俘虜。
3月中旬，陳誠改變部署，將六個師編成兩個縱隊，分前後兩個梯隊，由宜黃經東陂、甘竹向廣昌進發，尋求紅軍主力決戰。紅一方麵軍以小部兵力在廣昌西北擔任阻擊，吸引敵人；主力隱蔽集結於敵人右側的洛口、東韶、南團，小布地區待機。1932年3月20日，陳誠指揮的第十一師進至草苔岡、徐莊，與前梯隊相距近百裏。這時，羅卓英率第五十九師殘部溫良旅也到達東陂以北五裏牌，判斷紅軍似在等待其主力的來到，而草苔岡地區又不利，即電令第十一師連夜撤回五裏牌，但師長肖乾怕官兵疲勞，不肯撤回。21日拂曉，就被紅軍一、三、五、七、九軍團全力圍攻，傷亡過半，剩下不到三千人。至此，第四次“圍剿”即被打破。蔣介石不得不承認，“此次挫敗，淒慘異常，實有生以來唯一之隱痛。”
第四次“圍剿”失敗後，陳誠遭到同僚各方麵的攻訐。何應欽大罵陳誠飯桶，逼蔣介石嚴處。江西省主席熊式輝電告蔣說：“辭修驕橫，目中無人，不聽勸阻，慘遭失敗，其責非淺，望委座撤銷他全職，改編十八軍。”顧祝同、楊永泰也趁機向陳誠發難。蔣為避免國民黨軍內部離心傾向的進一步發展，便給了陳誠降一級、記大過一次的處分。陳誠覺得威信掃地，無顏見人，不得不打電報給蔣介石辭去本兼各職，並撤銷中路軍總部。不待回電，即從撫州回南昌私寓，閉門不出，任憑同僚對他攻擊。
陳誠回南昌，好幾天不去謁蔣，蔣介石也不便召陳。南昌行營參謀長賀國光見此情況，心裏很著急：蔣、陳不見麵，將影響前方戰局。揣摩蔣意，前方指揮非陳莫屬。於是，便去與譚祥商量，請她邀請陳誠外出散步，就便去看望宋美齡。這天晚上，陳誠攜同譚祥來到宋美齡公寓，相互寒暄不久，蔣介石即出見，笑著與陳握手，說：“這個，此次圍剿失利，責任在我，你就不必多介意了。”陳誠一聽很感激，說道：“我沒為你爭光。”這時，蔣介石向陳誠出示熊式輝的密件。陳誠一看怒火中燒，說：“委座如不需要十八軍，請幹脆撤銷此番號，何必改成三師八團?否則，悉憑鈞裁。”蔣卻對他說：“予以改編為兩軍八師”。他聽說十八軍的實力反比慘敗前大長，才轉怒為喜，與蔣談起第五次“圍剿”紅軍計劃。蔣介石采納了他的建議，說：“辭修，這回你要重整旗鼓，整編好十八軍，再由你出任總指揮。”
5月，陳誠回到杭州，擬訂了兩個方案，即：“繼續進攻”和“分區清剿”，請蔣介石決定。蔣估計到當時的部隊“隻有招架之功，而無進攻之力”，便決定采用“分區”方案，以整頓態勢。為了適應軍事形勢，陳誠將總指揮部移駐崇仁，主力仍擺在中路軍方麵，調羅卓英回第十八軍任副軍長。他從適應山地戰的特點出發，把該軍兩旅六團製的師，改編成三團製的師，建議蔣介石恢複第五軍建製，並保薦薛嶽任該軍軍長；將吳奇偉所率張發奎的第四軍，由兩千多人擴充為三團製的兩個師。經過整頓，在第四次“圍剿”中嚴重受挫的陳誠軍事係統的實力，又得到恢複和擴充。
7月，蔣介石在廬山開辦軍官訓練團，自兼團長，陳誠任副團長，抽調在江西的國民黨部隊團長以下軍官受訓兩個星期，以加強思想教育，鼓舞士氣，並抽調部分副師長、旅長擔任營長。陳誠一上廬山就立即表示，要以“決死的精神”，痛改錯誤，克服墮落，從頹喪中振奮起來，為蔣介石效力。他負實際責任處理軍訓團的重要事務，協調顧問、教官和營長的工作，指揮政治和軍事訓練的正常進行，侍奉經常來團訓話的蔣介石和來團觀察的其他黨政要人，對教官和學員作精神和軍訓講話。在這期間，陳誠先後作了三十多次講演、訓話，強調要“服從統帥”，“信仰領袖”。在《軍隊政訓工作之檢視》訓話中指出：“我們認識領袖，信仰領袖，並不想利用領袖。”他把蔣介石比作“一塊寶石”，說：“大家都是愛護寶石的，可是愛護寶石的出發點各人有不同，珠寶商想把它做成裝飾品去賺錢，強盜想把它搶去變賣發財，隻有正人君子，才能以晶瑩堅潤的寶石之種種德性為法而涵養其高貴的人格，完成其事業。”要求學員凡聽到“蔣總司令”、“蔣委員長”時，要立即肅靜立正。在講演中，還宣傳蔣介石的“攘外必先安內”的反共方針。他說：雖然有許多的同誌、朋友來信指責，也隻好求近舍遠，先打了紅軍再說。同時，多方羅致文人，特別是國外留學生，以充實政治方麵的班底。至9月上旬，辦了三期，受訓人員達七千五百九十八人。
9月下旬，蔣介石調集五十萬兵力，開始對中央革命根據地進行第五次“圍剿”。陳誠奉派為北路軍前敵總指揮兼第三路軍總指揮，轄第五、第七、第八三個縱隊，將第三路軍總部和第十八軍軍部移駐南城。在“圍剿”中，他恪守“戰略上取攻勢，戰術上取守勢”的指揮原則。並把新定的“穩紮穩打，步步為營，修碉築路，逐步推進”的作戰方略，簡括成“封鎖圍進，配合迫進，逐步穩進，乘虛突進”四句話，以便官兵易懂易記。同時，先後在中央蘇區周圍築起碉堡二千九百多座，配合鄉村所實行的保甲製度，構成對蘇區的嚴密封鎖。
正值陳誠部開始向蘇區步步逼進時，“福建事件”發生。蔣介石親赴南城，與陳誠舉行秘密會議，決定督師向第十九路軍進攻，可是顧慮重重，害怕紅軍支援第十九路軍。過了數日，獲悉紅軍不與十九路軍合作，才放下沉重的“包袱”。他對蔣說：“這下子不怕了，十九路軍是號稱五個軍，實則每軍不過六個團，總計三十個團，即使能戰，其力亦甚有限，故閩變不足慮。我們還耍乘勢反攻紅軍，把他們趕出江西。”
黎川為閩贛兩省之交通孔道，握贛之東北與東南、及閩西北之樞紐，東連光澤、邵武，南達建寧，北出金溪、資溪，以窺撫州，是紅軍控製三年之久的戰略要地。為截斷閩贛兩省紅軍的聯係，陳誠先命薛嶽率領五個師占領東坪墟，進攻營前之紅三軍團。12月，令薛部東進黎川，修築熊村、湖坊、黃土關、杉關、邵武、光澤、飛鳶、洵口等地碉堡線。1934年初，又命第十八軍修築硝石到黎川的公路。1月下旬，將總部移駐黎川。隨即，赴東山指揮各部相繼攻占德勝關、獅子嶺、橫村、樟村，以及閩贛交界的朝天隘、茶花隘、寨頭等武夷山嶺線。