袁世凱稱帝後，果然如段祺瑞預料的一樣，局勢一發不可收拾，眾叛親離。袁世凱本來對軍事和外交一直充滿信心。外交上，他原以為“二十一條”簽署後，日本人會信守諾言支持帝製，結果卻不然。日本見抗議帝製的聲浪日益高漲，便開始新的投機，先後聯合英、俄、法、意向袁世凱提出緩辦帝製的五國勸告，又在暗中協助蔡鍔、梁啟超等反袁人士繞道日本進入雲南。這對袁世凱的打擊很嚴重。
軍事上也是一團糟糕，北洋軍昔日的威風蕩然無存。這時後院又起火，馮國璋聯絡長江巡閱使張勳、江西將軍李純、山東將軍靳雲鵬、浙江將軍朱瑞聯名發出致各省將軍的密電，征求撤銷帝製的意見。“五將軍密電”傳到北京，袁世凱知大勢已去，在四麵楚歌聲中，隻得把段祺瑞請了回來。段祺瑞是反對帝製的，但他不反袁，他說：“要我公開反對袁項城，做不到；否則，人家要指我脊梁骨，罵我忘恩負義。”
在徐世昌的建議下，袁世凱準備請問段祺瑞，為了免碰釘子，袁事先讓夫人於氏打電話到段公館給張夫人，這是兩家斷絕來往後母女第一次通話，相對哽咽。於夫人便把意思告訴了張夫人，並叮囑道：“不管咋說，總統病了，芝泉總得來看看吧。”
次日，袁世凱派人手持親筆信函赴段公館邀請段祺瑞，來人還帶口信說，總統讓轉告總長，請看在多年的老交情上，務必前往一敘。段祺瑞不再推辭，到中南海拜晤袁世凱，袁世凱躺在病榻上，麵色赤紅，但說話正常。見到段祺瑞，袁表示自己後悔沒有聽段的話，以致今日內外交困，希望段念及小站的情分，出來穩定局麵。段祺瑞看到袁世凱又老又病的樣子，並且又認了錯，於是慨然答應竭力相助。
3月20日，袁世凱召集徐世昌、段祺瑞、黎元洪三巨頭開了一次緊急會議。看到誰也不肯先發言，袁世凱隻好自己先說：“事至今日，帝製已不可為，隻有取消了。取消帝製後，可以恢複從前的樣子。”袁世凱的意思是想繼續擔任大總統，撤銷帝製是最後的讓步，在總統問題上絕不妥協。“芝泉，你說說吧？”
段祺瑞自見到了袁世凱，便開始考慮穩定時局的措施，這時不慌不忙地說出了幾點，主要意思是首先取消帝製，寬容西南起事人員，采取和平姿態達到停戰目的，其主張與袁世凱出山時向清廷提出的條件有驚人的相似處。袁世凱有些不快，然而說道：“芝泉的意見很好，但若南方欺人太甚，得寸進尺，那將怎麼辦？”
段祺瑞說現在不能一味用武，先退一步再說，事情總有解決的辦法。看到段祺瑞表示取消帝製後，仍承認他的大總統地位，袁世凱稍稍放了心。
第二天，袁世凱又召集有關人員，討論撤銷帝製問題，並通過了關於取消帝製的電稿，送往印鑄局，準備當天晚上通電全國。可是直到第二天，也沒有見到通電。段祺瑞急了，連忙打電報詢問，印鑄局說電稿送來後不久又被袁世凱派人取回去了。段祺瑞吃驚不小，連忙會同徐世昌直奔中南海。
袁世凱麵容平靜，淡淡地說：“哦，是我叫人取回的。”停了一會，又解釋道：“裏頭有幾個字，我想改動一下，改好後就讓人送回去。”段祺瑞和徐世昌都明白事情絕不會如此簡單。
據說袁克定知道電稿後，對袁世凱說，西南方麵不讓你做皇帝，你便取消帝製，若不滿你做總統，你怎麼辦？遂有袁世凱撤回電稿之舉。然而撤回電稿之後又怎麼辦？
3月22日，袁世凱還是發表了撤銷帝製的通電，宣布廢除洪憲年號，83天的皇帝夢結束了。
這一天段祺瑞回到家裏，張大人高興地迎上來說：“老頭子終於醒了。”段祺瑞臉上卻露出了古怪的笑容。
3月24日，段祺瑞與徐世昌商議，以黎、徐、段三人的名義致電西南護國軍首腦，表示“帝製取消，公等目的已達，務望先戢幹戈，共圖善後”之意，黎元洪也表示同意。但段祺瑞沒有將電稿立即發出，而是想觀望一下，暗中摸摸西南方麵的底。可是，大出意料的是，3月28日，在他毫不知曉的情況下，電報竟然已經發了出去。
段祺瑞簡直氣歪了鼻子，他打電話給徐、黎二人，二人皆不知情，再打電話給總統府，才知道是袁世凱指示發出的。原來，袁見段遲遲不發這份電報，惟恐他態度有變，就指示把電稿發了。
段祺瑞覺得自己又被袁世凱愚弄了，怒氣衝衝地說：“都到什麼地步了，還要這麼包打天下。好吧，你事事要管，那就讓你一個人去管吧！”
4月1日，袁世凱親擬了一份關於議和條件的電稿，派人送給段祺瑞征求意見，段祺瑞原封不動地將此退回，袁世凱又派人送來，段對來人說：“總統想怎麼辦就怎麼辦好了，不必來問我。”
北邊袁、段出現新矛盾，南方卻咄咄逼人，要求袁世凱退位。4月中旬，蔡鍔、唐繼堯等聯名提出六項條件，這六項條件極其嚴厲：袁退位後貸其一死，但必須逐出國外；誅帝製禍首楊度等十三人以謝天下；大典籌備費用及用兵費六千萬，應查袁氏及帝製禍首十三人的財產賠償之；袁氏子孫三世應剝奪公民權；依照民國約法，推舉黎元洪副總統繼任大總統；除國務外，文武官吏照舊供職，但關於軍隊駐地，要接受擴軍都督的指令。