契丹族是我國北方很古老的少數民族之一，原來屬於東胡族係，論起源則是源自東胡的一個支係：鮮卑。而鮮卑中又有一個宇文部，契丹就是這個宇文部的分支之一。契丹這個名稱最早在我國史書中出現是在公元四世紀的北魏時期。在當時分布在遼水流域以北的潢河（今西拉木倫河）與土河（今老哈河）一帶，過著漁獵畜牧的氏族部落生活，以逐水草遊牧為主。在北魏後期，契丹形成了古八部，八部之間互不管轄，也沒有什麼聯係。各部獨立地和北魏政府保持著朝貢關係。到了隋朝，由於突厥勢力擴張，對各部族征伐不止，契丹各部為防衛突厥，開始互相聯係，互相支援，後來形成了初期較為鬆散的部落聯盟。到了唐初，契丹就形成了以大賀氏為首的部落聯盟。其體製是在八部酋長中共同選舉一人為首領，或者叫盟主。任期三年，到期改選，但大賀氏的人有世選的特權，這時的首領已經有了管理權力。契丹首領後來率部歸入唐朝，唐太宗授予旗鼓，以表示對首領權威的承認。唐朝又在契丹地區設置了行政機構，即鬆漠都督府，任命其首領為都督。
唐玄宗時期，大賀氏部落聯盟瓦解之後，重建了遙輦氏部落聯盟，在被回紇統治一段時期後，又趁回紇內亂之機重新歸附唐朝，而唐朝後期的衰落又給契丹的獨立發展提供了良機。
遙輦氏聯盟後期，由於唐朝末年的中原混戰，使得北方漢族人紛紛逃入契丹地區，躲避戰亂。漢族的先進生產及其他技術對契丹的經濟發展起到了促進作用。而在契丹八部中迭剌部又離中原較近，所以發展最快，勢力超過了其他七部。迭剌部的夷離堇（即部落的酋長或聯盟的軍事首長）一直由耶律氏家族世襲擔任，這個家族從阿保機的八世祖耶律雅裏重新整頓契丹部落聯盟，擔任夷離堇之後，就進入了契丹社會的上層，而且從七世祖開始就掌握了聯盟的軍權，地位僅次於聯盟首領。到了阿保機的祖父勻德實擔任迭剌部的夷離堇時，本部落已有了發達的牧業和農業，勢力強大，社會的發展也很快，開始由氏族製度向階級社會的國家過渡。
阿保機被稱為迭剌部耶律氏家族的英雄。在他出生時，契丹的貴族階層正在為爭奪聯盟首領之位而打得不可開交。阿保機的祖父勻德實在殘酷的政治鬥爭中被殺，父親和叔叔伯伯們也逃離出去，躲了起來。祖母對於這時出生的阿保機非常喜愛，但又擔心他被仇人加害。因此常將他藏在別處的帳內，不讓他見外人。
阿保機長大成人後，身體魁梧健壯，胸懷大誌，而且武功高強，《遼史》上說他“身長九尺，豐上銳下，目光射人，關弓三百斤”，他帶領侍衛親軍曾多次立下戰功，顯露出過人的才幹。
在遙輦氏聯盟後期，阿保機被推為迭剌部的夷離堇時，遙輦氏的最後一個可汗痕德堇也同時成為聯盟的可汗。這時的阿保機隻有三十歲，手中掌握了聯盟的軍事大權，專門負責四處征戰。這又為阿保機建立軍功樹立威信和權威創造了有利條件。他充分利用本部落的實力四處征伐，接連攻破室韋和奚人等部落，同時南下進攻掠奪漢族聚居地區，俘獲一些漢人和大量的牲畜和糧食，使本部落的實力大增。阿保機的伯父被殺後，阿保機繼承了伯父的於越（地位僅次於可汗，史稱“總知軍國事”，高於夷離堇，掌握聯盟的軍事和行政事務，相當於中原王朝的宰相）的職位，獨掌部落聯盟的軍政大權，地位僅次於可汗。阿保機還進一步向中原地區擴充勢力，和河東的李克用締結盟約。到朱溫滅唐建立後梁的那一年，阿保機也取代了遙輦氏，當上了聯盟的可汗。阿保機還注意重用一些漢人，尤其是漢人中的知識分子幫助他建立了各種政治文化製度，更進一步促進了迭剌部的發展，為阿保機以後稱帝建立遼國奠定了堅實的基礎。
阿保機雖然已經是部落聯盟的可汗，但是，按照傳統製度，可汗之位要三年改選一次。由於漢人謀士經常說，中原的帝王從來不改選，這使阿保機不再願意遵從舊的製度，所以從他就任可汗之日起，阿保機就把目標瞄準了在契丹建立帝製。為此，他主要做了兩方麵的工作：一是對內加強權力控製，二是對外進行擴張，進一步增強本部落的實力，樹立更大的權威。
在對內方麵，阿保機首先建立了自己的侍衛親軍，即“腹心部”，從武力方麵保護自己的權力。並派親信族兄弟耶律曷魯、妻族的蕭敵魯等人任侍衛親軍的首領。其次，為使自己取代遙輦氏做可汗的事實合法化，阿保機讓本族成為第十賬，位於遙輦九可汗族人之後。阿保機還設立了專門管理皇族事務的宗正官，即惕隱，以穩定家族的內部團結。除了重用本族人之外，阿保機還重用妻子述律氏家族的人，因為他們對他的地位穩固起了很大作用。