唐末，幽州（今北京一帶）節度使劉仁恭多次出兵進攻契丹，契丹人飽受其苦。八部大人皆認為是可汗無能，遂要求改選可汗。阿保機借機大肆渲染可汗對中原的軟弱讓步，最終憑借自己強大的實力和崇高的威望，於公元906年登上了八部聯盟可汗的高位。
按照傳統製度，可汗之位要三年改選一次。由於漢人謀士經常說，中原的帝王從來不改選，所以阿保機在任可汗滿三年時拒不交出大權，籌謀像中原的皇帝一樣建立終身製和世襲製。此舉引起了本家族其他貴族的強烈不滿。因為按照習慣，可汗實行的是家族世選製，即可汗之位轉入耶律氏後，可汗就都要由耶律家族的成年人輪流擔任，阿保機不讓位，其他人便沒有機會當選。為了爭取這個被選舉權，阿保機本家族的兄弟們便首先起來反對他，由此發生了契丹曆史上的“諸弟之亂”。
兄弟們的叛亂一共有三次。第一次在公元911年。這年的5月，阿保機的弟弟剌葛、迭剌、寅底石、安端策劃謀反，安端的妻子得知後密報了阿保機。阿保機不願同室操戈，就和兄弟們登山殺牲對天盟誓，然後赦免了他們。但兄弟們並沒有領情，第二年，又在於越轄底的帶領下，再次反叛。這年的7月，阿保機征伐術不姑部，讓剌葛領兵攻打平州（今河北盧龍）。剌葛攻陷了平州，卻領兵阻擋阿保機的歸路，逼迫他恢複祖製。阿保機沒有硬拚，而是領兵繞道南下，按照傳統習慣趕在諸兄弟的前麵舉行了燒柴告天的儀式，即“燔柴禮”，再次任可汗。
這樣就證明他已經合法地連選連任，使眾兄弟沒有了反叛的理由。第二天，諸兄弟紛紛向阿保機請罪，阿保機也就不再追究，隻下令讓他們悔過自新。
但是，可汗寶座的誘惑畢竟比兄弟之情要大得多。諸弟之亂在公元913年進入高潮。這年3月，阿保機的大弟剌葛趁阿保機外出之機，讓二弟、四弟帶兵去攻打路途中的阿保機；又派三弟攻打留在宮帳中的述律平。阿保機和述律平早有準備，沉著應戰，將叛軍各個擊破，統率叛軍的兄弟們也多被生擒。阿保機本不想手足相殘，仍想對幾個兄弟教育釋放。然而述律平一句話卻使他下了斬草除根的決心。述律平說：“可汗還想看到第四次叛亂嗎？”於是，阿保機揮起屠刀，將參加叛亂的兄弟及他們的親屬上百人全部處死。
在一片血雨腥風中，阿保機所部終於歸於平靜。然而，這僅僅是擺平了契丹八部中的一部，另七部貴族仍然在暗中做著推翻阿保機的準備。
公元915年，七部貴族終於等到了機會。在阿保機征討黃頭室韋部返回的路上，七部貴族假裝歡迎，乘阿保機不備，將他抓住，刀架在脖子上，逼阿保機下台讓位。麵對死亡，阿保機隻好認輸，辭去可汗之職，帶著自己的部落遷徙至灤河一帶。
為東山再起，阿保機大量使用漢族知識分子。韓延徽，原是定州節度使劉仁恭的幕僚，受命出使契丹。在談判進行中，劉仁恭又在邊界滋事。阿保機一怒之下，扣押了韓延徽。麵對刀槍，韓延徽麵不改色，慷慨陳詞，令阿保機很是佩服，遂以誠打動了韓延徽，將其收於帳下。
從此，韓延徽成了阿保機的左右手，為壯大阿保機的部族提了很多建議，為阿保機日後的東山再起起到了重要的作用。阿保機對韓延徽的信任，也是罕見的。韓延徽的母親病危，他招呼也不打，連夜跑回了幽州老家。部下來告，韓延徽叛逃，阿保機堅定地說，韓延徽決不負我！果然，幾日後，韓延徽回到阿保機帳下。見阿保機如此善待漢官、信任漢官，許多漢人文官相繼歸附，阿保機一律委以重任。
在灤河，阿保機采用漢族謀士的建議，模仿漢地建起了一座城市，並改變契丹的遊牧習俗，大力發展農業鹽鐵。很快，阿保機所部的軍事實力和人口數又雄居契丹八部之首，並且由於其他七部都要由阿保機提供鹽鐵，阿保機等於把住了那七部的經濟命脈。