1920年，李濟深南下廣州，積極參加孫中山領導的軍政府，任粵軍第一師副官長，後任參謀長。1922年，在第一師師長鄧鏗被刺身亡後，李濟深開始兼任代理師長。1923年正式升任第一師師長兼參謀長，並兼任西江善後督辦、大元帥大本營西江辦事處處長等職。
1924年1月，孫中山開始創辦黃埔軍校，李濟深被任命軍校籌備委員會委員。2月，任軍校教練部臨時主任。3月，任軍構入伍試驗委員會代理委員長。當時，李濟深因還在西江練兵，這些職務便由鄧演達代理。5月，李濟深任黃埔軍校教練部少將主任。1925年7月，廣州國民政府成立後，粵軍改編為國民革命軍第四軍，李濟深任軍長，並升級為陸軍上將。10月，第二次東征時，任東征軍第二縱隊隊長。隨後又任國民革命軍南路總指揮，率陳銘樞、張發奎等南征雷州半島和瓊州，為廣州革命根據地的統一和鞏固做出了突出貢獻。
李濟深故居1926年1月，李濟深在國家黨第二次全國代表大會上被選為中央執行委員會委員、中央執行委員會常務委員會候補委員、國民政府軍事委員會委員、國民政府委員等職。4月，開始兼任黃埔軍校副校長。7月，國民革命軍舉行北伐，李濟深被任命為國民革命軍上將總參謀長和國民革命軍總司令部後方留守主任，並代行總司令（蔣介石）職權。此外，他還兼任廣東省政府主席、廣東省政府軍事廳廳長、黃埔軍校副校長、第四軍軍長等職，總攬廣東黨政軍大權。所屬部隊第四軍由副軍長陳可鈺率領，參加北伐，屢戰屢勝，獲得“鐵軍”光榮稱號。1927年4月18日，蔣介石在南京成立國民政府後，李濟深擔任國民政府委員、國民政府軍事委員會參謀總長、中央政治會議廣州分會主席、廣東省政府主席和第八路軍總指揮。9月，國民黨寧、漢、滬三方合流後，任中央特別委員會委員。
1929年3月，蔣桂戰爭爆發。3月15日蔣介石就以夥同李宗仁、白崇禧“分頭發難，謀反黨國”的罪名，將其扣押，軟禁於南京湯山，剝奪他的軍政大權並開除黨籍。1931年“九·一八”事變後才被釋放。11月，在國民黨第四次全國代表大會，李濟深被選為中央執行委員會委員和中央政治會議委員，又被任命為國民政府軍事委員會常務委員兼辦公廳主任和訓練總監。但李濟深並沒有接受這些職務，不久便離開南京到廣州，開始發動反對蔣介石獨裁統治的政治活動。1932年，組織“抗日軍人聯合會”，圖謀反蔣，最終失敗。後又聯合方鼎英等組織“革命軍事委員會”，成為“擁胡（漢民）反蔣（介石）”的軍事領袖。1933年10月23日，蔣介石召開國民黨中常會，將李濟深第二次開除黨籍。11月20日，李濟深與陳銘樞、蔣光鼐、蔡廷鍇等率領十九路軍在福建發動反蔣軍事政變，成立“中華共和國人民革命政府”，李濟深被選為“中華共和國人民革命政府”主席和軍事委員會主席。“中華共和國人民革命政府”隨即開始與中國共產黨合作，並與紅軍簽訂抗日軍事協定。不久，福建事變被鎮壓，李濟深逃亡香港，並組織“中華民族革命大同盟”，出版《大眾日報》，堅持進行反蔣抗日宣傳。
1937年7月，抗日戰爭爆發後李濟深響應中國共產黨的號召，主張國共合作，一致抗日。蔣介石鑒於當時的抗日形勢，撤銷對李濟深的通緝令，並任命其先後擔任國民政府軍事委員會委員、國民政府戰地黨政委員會副主任委員、國民政府軍事參議院院長等職，還授予他陸軍一級上將軍銜。1944年，桂林淪陷後，他開始在家鄉廣西蒼梧組織抗日武裝，開展敵後遊擊戰。1945年5月，在國民黨第六次全國代表大會上，被選為中央監察委員會委員。
抗日戰爭勝利後，李濟深與馮玉祥等反對蔣介石發動內戰，曾兩次在廬山批評內戰政策。1946年3月至4月，李濟深、蔡廷鍇等人正式成立中國國民黨民主促進會，並被推選為主席。民主促進會旨在聯絡國民黨內愛國民主人士，反對內戰獨裁政策，以促進國內和平民主進程。1947年3月9日，李濟深在香港發表《對時局意見》一文，號召國民黨黨內人士勇敢地站出來改正黨內反動派的錯誤政策。5月，國民黨中央以“背叛黨國”的罪名，將李濟深第三次開除黨籍，並下令通緝。
1948年1月，中國國民黨革命委員會在香港成立，李濟深被選為中央執行委員會委員、中央執行委員會常務委員和中央執行委員會主席。5月5日，他發表通電擁護中國共產黨提出的關於召開新政協、成立民主聯合政府的“五一”號召。12月，應中共中央邀請離開香港，到達東北解放區。1949年6月，代表民革在北平參加新政治協商會議的籌備工作。1949年9月，李濟深代表民革參加中國人民政治協商會議第一屆全體會議，並當選為中央人民政府副主席和政協全國委員會副主席。1954年9月，在第一屆全國人民代表大會上當選為全國人民代表大會常務委員會副委員長，並於1949年11月、1956年2月和1958年11月，在民革第二、三、四次全國代表大會上，均當選為民革中央主席。