當凱末爾決心一勞永逸地結束奧斯曼帝國封建君主政治權力的時候，他曾經向一些最親近的同僚征求意見，結果卻發現他們仍然對素丹表示忠誠。例如，凱末爾在問起民族獨立解放戰爭時期他的最親密戰友勞夫關於這個問題的看法時，後者回答說：“在良心和感情上，我是離不開素丹和哈裏發的，我有責任繼續對君主保持忠誠。我對哈裏發的愛戴，是我所受教育的結果。”勞夫用嚴肅的口吻繼續說道，“廢除素丹和哈裏發，而另設其他性質的官職來代表，將會造成失敗和災難，這是千萬做不得的。”當時坐在凱末爾身邊的許多親密戰友也都表示同意，還說：“事實上，根本就不存在除素丹製和哈裏發製以外還有其他形式的政府。”
然而，凱末爾估計了當時的形勢後，得出了與他的那些親密戰友不同的結論。在他看來，素丹和哈裏發由於在奧斯曼帝國民族獨立解放戰爭中同外國勢力相勾結，已經聲名狼藉，威信掃地，成為過時的東西了，而民族革命派在戰爭中建立了崇高的威望，手中又有強大的軍隊做後盾，所以逐步廢除素丹和哈裏發的時機已經成熟。特別是當協約國一方麵同以凱末爾為首的民族革命派政府簽訂和約，另一方麵又頑固地繼續堅持承認素丹政府，這種別有用心的雙重承認，企圖使奧斯曼帝國的國家政權陷入一種分裂的狀態，促使凱末爾更加堅定了廢除素丹和哈裏發的決心。
經過長時間的深思熟慮之後，凱末爾決定把素丹和哈裏發這兩個職位分開，並先廢除前者，從此將不再有素丹，而隻有一位奧斯曼王子來擔任哈裏發的職位，他僅擁有宗教權力，而沒有政治權力。凱末爾希望通過這項折中辦法來瓦解宗教分子對於政治變革的反對，來保持一個超越政治之上的合法宗教權威所具有的優點，同時又結束了素丹的個人專製。1922年11月1日，安卡拉的大國民議會通過了包含兩項條款的決議。第一項條款宣布，“奧斯曼帝國的人民認為，在伊斯坦布爾的那種依靠個人統治形式的政府，已不複存在，至此，已經永遠成為曆史。”第二項條款承認哈裏發職位應屬於奧斯曼王室，但規定哈裏發隻能依靠奧斯曼國家而存在，並應由大國民議會遴選奧斯曼王室中最屬品學兼優的人充任。同年11月16日，大國民議會又決定，以勾結英國的叛國罪，將把素丹及主要大臣交付國家最高法庭審判。素丹穆罕默德四世11月17日得到消息之後，見大勢不妙，還沒有等候大國民議會來評定他是否品學兼優，便在一個伸手不見五指的漆黑夜晚，帶著他那不滿10歲的幼子，倉皇從王宮側門逃出，登上英國軍艦逃離了奧斯曼帝國。流傳了六百多年的奧斯曼帝國素丹製，隨著這位最後一代素丹的逃亡而一去不複存在。不久，素丹穆罕默德四世的堂弟麥吉德被選為新的哈裏發。然而，此時的哈裏發製，也隨著素丹製的滅亡而形影相吊、搖搖欲墜了。
凱末爾在終於辦完了奧斯曼帝國素丹製的喪禮之後，又開始為下一階段的政治改革做好了準備。他首先需要一個政治工具。雖然保衛權利協會曾經在奧斯曼帝國的民族解放鬥爭時期做了許多工作，但它卻滿足不了一個享有和平與獨立國家的需要。凱末爾這時著手把它改變成一個在現代政治體製運作中的真正政黨。凱末爾經過走訪全國各地，同國內各社會階層的代表交換了意見，並在他的領導下，1923年8月9日，一個叫作人民共和黨的新政黨宣布成立，凱末爾擔任該黨主席，它是這一時期奧斯曼帝國唯一的政黨。
7.徹底廢除哈裏發製
與此同時，凱末爾另外又準備進行一項甚至更加徹底的政治改革。首先是在1923年10月13日正式宣布定都安卡拉，其次是宣布共和。1923年10月29日，大國民議會經過許多小時的激烈辯論之後，當天晚上8時30分，成立共和國的決議案以158票獲得了通過。投票時，雖然有許多人投了棄權票，但沒有一個人投反對票。15分鍾之後，也就是在8時45分，大國民議會一致選出凱末爾為土耳其共和國的第一任總統。他任命他的親密戰友伊斯梅特·伊諾努將軍為他的第一任內閣總理。同一天晚上，在全國各地發布了這項消息，午夜後，全國各地都鳴炮一百零一響以示慶祝。定都安卡拉和宣布共和，凱末爾的每個行動都象征著進一步割斷與奧斯曼帝國曆史的聯係以及一個新時期的到來。
並不是所有過去奧斯曼帝國的臣民們都能以同樣的曆史現實主義眼光看待時事的發展。在許多地方，宣布共和受到了熱烈的歡迎，認為這是一個新時代的開始，但在一些地方，它給人們帶來了震驚和悲傷以及對於未來的無限憂慮。對於國內的保守派分子來說，他們之所以反對共和，主要是認為它危及民眾同自己的伊斯蘭過去以及與自己帝國過去的聯係，同時也危及他們同長期以來一直以他們為首的那個更大的伊斯蘭世界之間的聯係。因此，傳統的保守勢力也就不可避免地全部都聚集到作為兩重感情的活生生象征者哈裏發本人的周圍來了。哈裏發麥吉德雖然也不失為一個溫和的、具有學者風度的人，他卻不惜使自己出來承擔了一個很可能是反對土耳其共和國世俗化變革和凱末爾本人的精神領袖，並且他本人也試圖把他在宗教上所起的作用擴大到國家政治上，因為他一度談到“哈裏發寶藏”，所以遭到凱末爾在1924年1月的一次大國民議會上對他發出的尖銳申斥：“哈裏發在他的府內，特別是在他公開露麵的時候，似乎還是按照他的先輩素丹們的那套辦法在行事。我們不能為了保持禮貌和表明道理而犧牲土耳其共和國。哈裏發必須確實弄清他是什麼人，他的職務是什麼，並且應該要知足。”