南京國民政府統一中國後，並沒有造就一個穩定的由文官控製權力的國民政府，而是開啟了新軍閥割據時代。舊派軍閥孫傳芳、吳佩孚被消滅了，可閻錫山、繼承張作霖天下的張學良還存在；打倒了舊軍閥，以血緣、地緣和政治關係維係的地方實力派李宗仁、馮玉祥、李濟深、陳銘樞、唐繼堯紛紛崛起。這些在北伐時期被納入國民黨旗幟下的地方軍人，因北伐有功，不但不易剝奪他們的地方獨立，反而成為“黨軍閥”的一員，參與國家的大政。於是，聚集在國民政府裏的這些“多槍階級”不斷為誰統治誰，又該誰當統治者而與蔣介石反目成仇。
一九二九年三月二十一日，國民黨第三次黨員代表大會在胡漢民的主持下，正式通過《根據總理教義編製一切黨之法令規章以成一貫係統暨確定總理主要遺教為訓政時期中華民國最高根本法案》決議中，明確規定：“確定總理所著三民主義、五權憲法、建國方略、建國大綱及地方自治開始實行法為訓政時期中華民國的最高之根本法”。國民黨在對以上的決議說明中稱：辛亥以前，孫中山曾於革命方略中有“每縣於敵兵驅除、戰爭停止之日期，立即頒布約法”的規定；民國元年也曾臨時“同意於約法之頒布”，“迨本黨在廣州開創政府之時，總理先後著成三民主義、五權憲法、建國大綱諸要典，乃不複以約法為言。”這個最高根本法案及對放棄約法的說明解釋，十分清楚地向天下表明，已進入訓政時期的執政的國民黨將以孫中山的遺教為國家根本大法，訓政時期將不再製定和遵守“約法”了。這為此後一年多間，以蔣介石為首的南京中央政府同地方實力派此起彼伏的各種政治、軍事組合，打了無數次的內戰埋下了導火索。而表決通過“一黨專政”的大會代表有近百分之八十為中央圈定和指派，這也為此次大會的合法性埋下了數不清的禍根。
國民黨內不同的派係，沒有哪一方不打孫中山的旗號，沒有哪個人不說自己是遵循“總理遺教”。所爭的“約法”，其實早年參加中國同盟會的何澄十分清楚：一九〇六年，孫中山在製定《中國同盟會革命方略》時，曾將革命進程分為軍法之治、約法之治和憲法之治三個階段。軍法之治是為了推翻皇權，憲法之治是為了建立民權。但這兩個目的之間，似乎還有一個繞不開的問題，即“革命之誌在獲民權，而革命之際必重兵權，二者常抵觸。”怎樣才能做到“解除兵權以讓民權”呢？孫中山認為，這中間需要經過一個約法之治的過程：“軍政府與人民相約，凡軍政府對於人民之權利義務，人民對於軍政府之權利義務，其犖犖大者悉規定之”，以此來防止軍權的膨脹，不致抑製民權的發展。一九一四年，孫中山建立中華革命黨。在黨章中，規定了從革命軍起義到憲法頒布前的這段時間，“一切軍國庶政，悉歸本黨負完全責任”。這就是近代中國“以黨治國”的思想源頭。一九二四年，孫中山改組國民黨，在“一大”會議上通過《國民政府建國大綱》，在這個孫中山起草的大綱裏，除了仍將革命過程分為軍政、訓政、憲政三個時期外，還特別規定：“凡一省完全底定之日，則為訓政開始之時，而軍政停止之日。”但在國民黨取得政權之後，開始訓政時期，是否還需要“約法”，孫中山在其《國民政府建國大綱》中並未提及，這就為以後國民黨內派係之爭留下了任人解釋、自任為是、自我標榜是唯一正確的一片空地。
國民黨三全大會欲確立“一黨專政”治國理念，引起國民黨內沒有進入政治核心圈的反對派和自由知識分子群體的強烈不滿。據國民黨中執會秘書長內部刊印的《中央黨務月刊》，參加國民黨三全大會的代表共四百六十六人，其中除五十四名為上屆中央委員當然代表，由中央圈定的代表為一百一十六人，指派的代表為二百零九人，由選舉產生的與會代表僅為八十七人，不足總數的百分之十九。國民黨內首先挑戰蔣介石的是汪精衛，聯合十三名中央委員發表《關於最近黨務政治宣言》，指責此次大會將近百分之八十的代表，為中央圈定與指派，是為一次不合法的代表大會。在知識分子群體代表中，最早公開挑戰國民黨“一黨專政”體製的，是大名鼎鼎的胡適。三月二十六日，胡適以參加國民黨三全大會的上海代表陳德徵提交的《嚴厲處置反革命分子案》為例，開始對國民黨的“一黨專政”發起猛烈攻擊。陳德徵在這份提案中說：“理由：……吾人應認定對反革命分子應不猶豫地予以嚴厲處置。查過去處置反革命分子之辦法，輒以移解法院為惟一之歸宿，而普通法院因礙於法例之拘束，常忽於反革命分子之實際行動，而以事後證據不足為辭，寬縱著名之反革命分子。因此等之結果，不獨使反革命分子得以逍遙法外，且使革命者有被反革命分子之攻擊危害之危險。均應確定嚴厲處置反革命分子之辦法，俾革命勢力得以保障，黨國前途實利賴之。辦法：凡經省及特別市黨部書麵證明為反革命分子者，法院或其他法定之受理機關應以反革命罪處分之。如不服，得上訴。惟上級法院或其他上級法定受理機關如得中央黨部之書麵證明，即當駁斥之。”這種以中央黨部的一紙證明就可定人為“反革命”的搞法，令胡適十分氣憤。他給司法院長王寵惠寫信說：“先生是研究法律的專門學者，對於此種提議，不知作何感想？在世界法製史上，不知哪一世紀哪一個文明民族曾經有這樣一種辦法，筆之於書，立為製度的嗎？我的淺識寡聞，今日讀各報的專電，真有聞所未聞之感。中國國民黨有這樣黨員，創此新製，大足以誇耀全世界了。”接下來，胡適把國民黨大大諷刺了一通：“其實陳君之議尚嫌不徹底。審判既不須經過法庭，處刑又何必勞動法庭？不如拘捕審問，定罪、處罰與執行皆歸黨部。如今日反日會之所為，完全無須法律，無須政府，豈不更直截了當嗎？”
一九二九年五月六日，胡適針對國民政府於四月二十日所下的一條“保障人權”的命令，寫了一篇《人權與約法》交給《新月》刊發，再次批評國民黨：“命令所禁止的隻是‘個人或團體’，而不曾提及政府機關。我們今日最感痛苦的是種種政府機關或假借政府與黨部的機關侵害人民的身體自由及財產”；針對此命令所說“違者即依法嚴行懲辦不貸”，胡適反問：“所謂‘依法’是依什麼法？我們就不知道今日有何種法律可以保障人民的權利？中華民國刑法固然有‘妨害自由罪’等章，但種種妨害若以政府或黨部名義行之，人民便完全沒有保障了。”他認為，如果真要保障人權，確立法治基礎，第一件應該做的事是製定中華民國憲法，如果這件事暫時做不到，那麼至少也該製定一部所謂訓政時期的約法出來。在對“軍政時期、訓政時期、憲法時期”做了法理上的討論之後，胡適呼籲：“我們今日需要一個約法，需要孫中山先生說的‘規定人民之權利義務與革命政府之統治權’的一個約法。我們要一個約法來規定政府權限，過此權限，便是‘非法行為’。我們要一個約法來規定人民的‘身體、自由及財產’的保障，有侵犯這法定的人權的，無論是一百五十二旅的連長或國民政府主席，人民都可以控告，都得受法律的製裁”。
胡適的理想境界是上自國民政府主席，下自平民百姓，人人平等，所以看到沒有一個約法來約束國民黨中央黨部憑借一張紙條就可以定人罪名，使他很生氣也很無奈，因為此時的中國是他曾支持過的比舊軍閥現代一些的“有槍階級”控製的。
國民黨三全大會沒有弄出一個約法，反倒說明了為什麼不再需要約法，這已表明國民黨已經意識到北伐之後的“重新統一”，不但沒有削弱地方軍人勢力，反而有擴大破壞“一黨專政”的危險。地方軍人專製的結果，致使南京政府控製的中心區域僅限於浙江、江蘇和安徽；福建、江西、湖北和河南，與之聯係緊密一些，但也隻有審慎地使用軍事控製手段才能保持對南京政權的忠誠；廣東、廣西、雲南、貴州、四川、陝西、山西和山東，都顯然保持著獨立，有時還會積極地與南京政府敵對。再遠一層，在東北、華北和亞洲腹地的邊疆地區，問題不僅是脫離中央，保持地區的獨立的問題，在遇到外來侵略時有可能還會分離。所以，盡管胡漢民主持設計的三全大會把蔣介石在訓政初期所講的應頒布約法推翻在地，使蔣介石失信於民，失信於新崛起的一代實力派軍人，失信於其他對“約法”翹首以待的國民黨派係，但蔣介石為了應對地方實力派的挑釁，還是暫時容納了胡漢民在開幕詞中所講的“所謂訓政，是以黨來訓政，是以國民黨來訓政”，“在訓政時期中，國民大會的政權乃由本黨的全國代表大會代行……政治上一切最高的方針與原則，無論外交的、財政的、軍事的、內政的、教育的，都有待於大會決定”。
自從陳德徵在國民黨三全大會上提交了《嚴厲處置反革命分子案》以來，“革命”與“反革命”就成為兩個頗為流行的話語。一九二九年四月，鐵道部建設司司長陳伯莊向孫科建議請丁文江來進行西南川黔和東南浙贛閩沿線的地質調查時，孫科厲色向陳伯莊說：“為什麼推薦一個反革命的腳色！”陳伯莊說：“建設要請技術領袖高明專家才是。”及至見了丁文江，孫科對這個先前他認為的“反革命”又如魚水之歡。
應該說，北伐之後形成的新一代地方實力派軍人大多是有著民族主義理想的一批人，他們沒有分裂國家、獨立為國的野心，都是在統一中國的前提下，為控製權利相互爭奪。一九三〇年七月十三日，已近尾聲的中原大戰，馮玉祥、閻錫山、桂係和西山會議派、改組派等各反蔣派係合流在一起的“中國國民黨中央黨部擴大會議”成立並以起草約法與召開國民會議相號召，於十月三十一日公布的《中華民國約法草案——太原擴會約法草案》（俗稱《太原約法》，卻包含了許多中國法製史從未有過的民主思想和還政於民的內容。尤其是第二章“人民之自由權利義務”，有關人民本該享有的自由、權利和義務多達二十八條。據這個約法的主要起草人鄒魯回憶：“蓋草案全部，以《建國大綱》為綱領，而根據之以定條目。《建國大綱》注重於人民之需要，訓導人民之智識能力，使之能自決自治；故草案於人民之自由權利義務一章，詳為保障與規定，使能自動的完成個人之人格，而擔當國民之大任。《建國大綱》注重以縣為自治單位，及中央一省之權限，采均權製度；故草案於國權及中央製度地方製度諸章，悉準引旨以為厘定。務期掃蕩十九年來軍人主政與割據地方之惡習，及使人民得有行使直接民權之根據。此外更依據總理遺教，見諸《建國方略》及《第一次全國代表大會宣言》者，訂為教育、生計兩章，以期養成民德、民智、民力而馴致於民生主義實行之成。”軍事上反蔣雖然失敗了，但《太原約法》卻贏得了社會各界的廣泛讚同並給後人留下了一筆珍貴的法製史料。
遺憾的是，即使懷著“務期掃蕩十九年來軍人主政與割據地方之惡習”的崇高目的國民黨元老鄒魯，也未走出與地方軍人主政的閻錫山、馮玉祥、李宗仁攪在一起的怪圈，致使民國曆史上最大的一場中原內戰爆發。
對於蔣介石和閻錫山的不和，何澄是本著“平心平政”的態度來勸和雙方的。他與雙方都是多年的老朋友，無論誰打倒誰，戰禍一起，於國家和人民都是莫大的損害。本著國家和人民的大觀念，何澄與黃郛分頭勸說與各自關係甚好的閻錫山和馮玉祥。但因蔣介石氣度太小，閻錫山和馮玉祥被以汪精衛、陳公博、顧孟餘、王法勤為首的改組派，以鄒魯、謝持、張繼、林森、居正為代表的西山會議派，以孫科、王昆侖、鍾天心、周一誌、梁寒操為主的再造派的各自政治目的所迷惑，不顧後果地要把蔣介石趕下台。雙方即將大動幹戈，何澄長歎奈何，隻好在灌木樓裏吟吟詩，寫些隨筆，以抒反對內戰的種種切痛。
閻錫山反蔣之初，曾有一位支持蔣介石的友人給他來信，詢問閻錫山的真實動態：
亞兄老友：
續奉賜複，知賢勞況瘁之中不廢吟詠，倘所謂今之有心人耶。弟輟詠十年，姑一步韻，言為心聲，願相喻可矣。
頃聞密訊，貴省領袖高唱鎮海之歌，緩諷頑石相讓，未知信否，此真最近興亡一問題也。浦石事件與青濟近日情狀，似頗有連，尊處如有更確聞見，望以見詔。年內尚思出遊否？繁霜陰由，維努力珍重。
祗頌日祺弟□頓首一九二九年雙十節，馮玉祥舊部宋哲元等二十七人聯名自西安通電反蔣，擁戴閻錫山、馮玉祥為國民軍正、副總司令，宣稱“蔣氏不去，中國必亡”；十二月一日，屢次三番投誠又反水的唐生智在鄭州發出通電，宣布就任汪精衛的護黨救國軍總司令，並宣布閻錫山為副總司令；十二月三日，唐生智又在鄭州發表《擁汪聯張（發奎）》通電，拉上石友三，出兵討蔣。閻錫山是準備與這些烏合之眾聯手反對蔣介石的中央政府呢，還是真心擁護中央，拱衛北方呢？何澄對此事極為關注，他給薛篤弼去信，想知道閻錫山的底牌。薛篤弼此時對南京國民政府雖有“虛偽統一”的看法，但據他的觀察，閻錫山還不至於和反蔣的“叛將”聯合起來，認為還是與中央合作有利。
亞農吾兄鑒：
六七兩日快慢兩示圴悉。觀察大局，極佩偉論。中央年來隻為虛偽的統一所誤，乘此保守江左（按：南京）。修明政治，待各軍閥利害衝突，然後圖之，真正統一始現。今日局麵，在我輩觀之，並不稀奇，隻要放開統一二字，海闊天空皆妙諦也，何必苦苦花許多錢買虛偽的統一也。至閻（錫山）態度，弟意必不聚變以叛將連（聯）合，非彼福也，彼還是與中央合作有利罷。
閻錫山與中央保持一致，“共存共榮”的態度，令何澄十分高興。或許，他也把這一情況傳達給了蔣介石周圍的人，之後才有蔣介石任命閻錫山為陸海空軍副總司令的事。
一九二九年十二月二十日，閻錫山通電擁護中央後，於一九三〇年一月，開始在何成濬的督導下，率軍討伐叛逆唐生智。唐生智全軍被繳械，通電下野後，據說發生了這麼一件事：蔣介石對閻錫山與唐生智暗中聯手反蔣早有察覺，雖然此次出兵南下，卓有戰功，但若讓閻錫山奪取了河南廣大地盤，再與馮玉祥聯盟起來，無論從政治上還是軍事上考慮，都將對蔣構成更大的威脅。於是，蔣介石密布何成濬、韓複榘在鄭州活捉閻錫山。一月十四日，此事被閻錫山派到鄭州電報電話局檢查來往電報電話的張象乾偵獲，閻錫山扔下原來乘坐的專列，登上駐守在新鄉的第九軍軍長馮鵬翥派來救駕的另一列火車脫殼逃脫。巧合的是，何澄恰在此時有信請孫鶴皋托轉討逆軍總預備隊總指揮陳調元輥輯訛。陳調元於一九三〇年一月十四日複函何澄：