他首先對黨政機構進行大調整大換班，更換了部長會議6名副主席，40多名黨政中央部長，約50名共和國及州委第一書記，同時起用了一批年輕的幹部擔任關鍵性的領導職務。
戈爾巴喬夫改革的核心是“民主化”、“公開性”和“新思維”。他的著作《改革與新思維》更是引起了國際社會的強烈震動。他明確指出：“新思維的核心是承認全人類的價值高於一切，更確切地說，是承認人類的生存高於一切。”
然而，戈爾巴喬夫的經濟改革在執行過程中遇到很大阻力和困難。原有體製被破壞，而新的體製卻又不能有效建立。經濟嚴重失控，改革處於“空轉狀態”。正是在這種情況下，戈爾巴喬夫未經充分準備就倉促轉向抓政治體製改革，試圖以政治改革帶動經濟改革。如此一來，不僅導致了高層領導的分化，也引起了社會動蕩。
隨著改革的進行和政治局勢的發展，領導集團內部在一係列重大問題上發生了原則性的分歧，以葉利欽為代表的“激進”反對勢力的力量不斷增長，1989年7月底，700多名蘇聯人民代表成立了變相的反對派議會集團，1990年7月，已任俄羅斯最高蘇維埃主席的葉利欽等人宣布退黨。
改革在動蕩中進行。伴隨著政治體製的“根本改革”，政局失控狀況日趨嚴重，無政府狀態在全國迅速蔓延，社會日益動蕩，罷工浪潮此起彼伏，經濟和刑事犯罪率猛增，反對黨派紛紛成立，全國性的政黨約20個，其中有的組織如支持葉利欽的“民主俄羅斯”頗有影響。這些政黨大多公開聲明反共反社會主義，策劃組織大規模的反共遊行和集會。同時，黨內的思想也十分混亂，自由化思潮嚴重泛濫；相當多的人對政治冷漠和厭倦，不少人因失望而脫黨、退黨。
蘇共分裂的趨勢日益嚴重，領導層內的鬥爭不斷加劇，人事變動頻繁，黨組織和國家政府陷於半癱瘓狀態。
在進行政治體製改革時，“新思維外交”
也同步展開，大幅度調整對外政策。大量退縮對各有關國家包括軍事方麵在內的幹預；恢複中蘇關係正常化；積極開展“富國外交”，多方爭取經濟合作及援助。但是，由於“新思維外交”過分熱衷於追求蘇美合作和所謂“歐洲大廈”，依賴和幻想西方大量的經濟援助，不講原則地實行妥協退讓從而帶來很多嚴重的負麵影響，尤其是宣布不再幹涉東歐各國事務，為西方幹預這些國家開了綠燈，從而催化了東歐各國的巨變，並導致華沙條約的崩潰和經互會的瓦解。
影響尤為嚴重和深遠的是，由戈爾巴喬夫提出的“公開化”、“民主化”和“政治多元化”口號，煽起了民族主義情緒，使本已錯綜複雜的民族矛盾和衝突迅速趨於尖銳和激化，導致民族分離運動的興起。波羅的海沿岸的拉脫維亞、立陶宛和愛沙尼亞三國於1989年首先宣布脫離蘇聯，亞美尼亞、格魯吉亞和摩爾多瓦三國也迅速跟進，都最終爭得了獨立。
“改革”改得黨和國家麵臨崩潰解體的邊緣，以副總統亞納耶夫為首的一些黨和國家領導人再也不能容忍，他們乘戈爾巴喬夫在克裏米亞黑海休養之機，組成8人“國家緊急狀態委員會”行使職權，於1991年8月18日將戈爾巴喬夫軟禁於黑海休養地。8月19日清晨通過電台播發“蘇聯領導的聲明”，宣布“鑒於戈爾巴喬夫由於健康狀況不可能履行蘇聯總統職責和根據蘇聯憲法”，將蘇聯總統全權移交給副總統亞納耶夫。
事情發生後，葉利欽立即宣稱國家緊急狀態委員會及其發布的一切命令都是“非法的”，號召舉行總罷工。兩種政治勢力一時形成了嚴重的對峙。與此同時，美國和歐共體也插手進來，譴責“八人委員會”的行動，表示支持戈爾巴喬夫。
8月20日，莫斯科、列寧格靳和一些共和國的領導人分別發表聲明，拒絕支持“國家緊急狀態委員會”。上街遊行和聚集在俄羅斯議會大廈支持葉利欽的群眾已達數萬人。受命攻占大廈的部隊拒絕執行命令，一部分戒嚴部隊也陣前倒戈，戒嚴全麵失控。21日下午，事變領導人放棄了他們已經開始的行動。22日，戈爾巴喬夫回到莫斯科。“國家緊急狀態委員會”起事失敗，其成員有的“自殺”，多數被捕。
8月23日，葉利欽下令“中止”俄羅斯共產黨活動。翌日，戈爾巴喬夫宣布辭去蘇共中央總書記職務並要求蘇共中央自行解散。蘇共處於分崩離析狀態。葉利欽威信倍增，掌握中央機構大權。其他共和國也加快了獨立步伐。
12月8日，俄羅斯、烏克蘭和白俄羅斯三國宣布組成獨立國家聯合體。12月21日，除格魯吉亞外的蘇聯11個加盟共和國簽署宣言：“隨著獨立國家聯合體的成立，蘇聯將停止存在。”