此後，阿保機不僅在契丹等族聲名赫赫，還威震中原，名揚四海。唐朝河東節度使李克用聽聞了阿保機的威名，也在公元905年派人來和他結盟，想借助阿保機的力量對付背叛的劉仁恭。阿保機也正在尋求外族的支援，於是痛快地答應了李克用的要求，和他約為兄弟，並隨即發兵進攻劉仁恭據守的幽州，大獲全勝。這次戰役的勝利，更加引起了中原藩鎮對阿保機契丹勢力的注意，他們紛紛來和阿保機結盟。阿保機的聲望日益提高，贏得了契丹人民的景仰和愛戴。
公元906年，契丹可汗痕德堇去世，臨死之前，推薦阿保機繼任可汗。這時，阿保機已經掌握了契丹部落聯盟的軍政大權，公元907年，阿保機通過部落聯盟選舉的儀式，設立祭壇，祭告祖先天地，正式繼任可汗，成為名副其實的契丹族領袖。阿保機繼任可汗之後，開始改革契丹族的一些舊製度，鞏固自己的地位和權力。他首先廢除了部落聯盟選舉製，實行君主世襲製。按照契丹族舊製，契丹八部的大人每3年要召開一次大會，推選智勇雙全的人擔任可汗，於是經常有舊可汗退位、新可汗登基的情況。而阿保機卻想廢除部落聯盟製，將契丹族統一為一個奴隸製的國家。於是他采納了漢族知識分子的建議，仿效中原漢族正期，實行君主世襲製。為了保障自己的統治，阿保機又從契丹備部挑選健壯勇武的兵士，建立了自己的侍衛親軍“腹心軍”，顧名思義，這是一支阿保機的心腹部隊，他任命自己的心腹之人統領這支軍隊，使它成為自己統治權力最可靠的保障。
阿保機繼任可汗之後，還繼續進行對外戰爭，擴大契丹的地盤和勢力。他先和朱全忠、李克用等中原藩鎮勢力結成友好關係。當時，盤踞幽州的劉仁恭多次興兵北上，騷擾契丹部族，契丹人深受其害。阿保機繼任可汗的第二年，就趁劉氏父子兄弟內訌之機，發兵南下，占領了營州。後來，李克用之子李存詡攻破幽州，消滅了劉氏的勢力，替契丹除去了一個勁敵。南部邊境的威脅解除之後，阿保機得以集中兵力和精力征服契丹後方的各少數民族，他連續出兵，先後擊敗了室韋、烏丸、奚等部族，占領了東到渤海，南到幽州，北越潢河，西越鬆漠的廣大地區。阿保機在契丹人民中的威望越來越高。可是，就在這時，契丹族內部發生了叛亂。
阿保機對汗位繼承製的改革，引起了許多覬覦可汗之位的契丹貴族的不滿。他們多次發動叛亂，試圖推翻阿保機的統治，奪取契丹的最高領導權。公元911年，一些契丹貴族，甚至包括阿保機的4個弟弟和他的養子，在利欲熏心的轄底的慫恿下發動了叛亂。阿保機聞訊之後，立即命心腹大將耶律曷魯率領“腹心軍”前往平叛，叛亂者束手被擒。阿保機寬大為懷，對他們從輕發落，希望能夠爭取他們的支持。可是，這些人不但不思悔改，反而在公元912年，趁阿保機出征在外的時候，發動了第二次叛亂。阿保機避開了和叛軍正麵交鋒，繞路回到本部，爭取了多數貴族的支持，使叛軍不戰而降。阿保機再次忍讓，對叛亂者不予追究。很快，這些貴族又發動了第三次叛亂。這一次，阿保機決定嚴懲不貸，他平定叛亂之後，處死了很多叛亂首領，公元915年，契丹八部大人趁阿保機征伐室韋凱旋而歸之時，設下埋伏，逼迫阿保機退位。阿保機無奈，隻得交出象征可汗權力的旗鼓，等待時機，卷土重來。公元916年，阿保機在妻子述律平的建議下，請八部大人來鹽池犒勞他，趁機全部殺掉了各部大人，清除了阻礙他的舊勢力。