隨即，巴解組織取得了兩項重大的政治勝利。一項是1974年10月在拉巴特舉行的阿拉伯國家首腦會議上，巴解組織被確認為巴勒斯坦人民唯一合法代表。另一項是1974年11月13日，阿拉法特戲劇性地出現在聯合國講壇上。
阿拉法特在聯合國的勝利給了巴勒斯坦人以巨大的鼓舞，但要說服他們特別是巴勒斯坦全國委員會接受“小型國家”方案是一件異常艱苦的事。在前後長達5年的時間裏，阿拉法特冒著被罵為叛徒的風險對散居在世界各地的巴勒斯坦全國委員會300名委員逐一進行苦口婆心的勸說，終於使1977年3月召開的巴勒斯坦全國委員會原則上通過了“小型國家”的方案。對阿拉法特來說，這是一個曆史性的突破。隨後，他被授權通過秘密渠道向以色列和美國傳出了和解的訊息。
1982年6月，以色列國防部長沙龍將軍指揮了一場所謂對巴勒斯坦人“最後解決”的戰爭。在長達86天的戰爭中的大部分時間裏，阿拉法特和西貝魯特穆斯林區的居民們處在包圍之中，他本人還時時處在以色列特務的監視之下並成為以色列轟炸機的首要目標。他曾一度真的預感到末日來臨，他以“天國之風在吹拂”的口號發布了最後的戰鬥命令。然而，正是這種絕望反而激起了巴勒斯坦戰士們同仇敵愾的勇氣。戰爭以以色列軍隊無法消滅巴勒斯坦抵抗武裝而結束。從某種意義上說，巴解組織贏得了勝利，但他們也為此付出了慘重的代價，他們不得不撤出黎巴嫩。阿拉法特把他的總部遷到了突尼斯，而巴解組織的武裝力量則被分散到各遠離前線的阿拉伯國家的難民營中。這是自1972年被逐出約旦後，巴解組織所經受的又一次致命打擊。
1990年8月2日，伊拉克侵占科威特，引發了一場海灣危機和海灣戰爭。巴解組織因在海灣戰爭中公開支持過伊拉克而受到了國際輿論的指責，並因此惡化了它與美國和西方的關係，開罪了阿拉伯溫和國家，更激怒了富有的海灣國家，以致這些國家凍結了對它的捐助，使巴解組織財政吃緊，到了變賣資產，停發部分工作人員薪水的地步。嚴峻的處境迫使阿拉法特不得不為爭取各方的理解與支持而四處奔波。
海灣戰爭以後，美國為了取得在中東的特殊地位而著手推動中東和平進程，巴解組織和以色列也麵對新的國際形勢調整了各自的立場。在各方努力下，1991年10月底召開了以美國為主導的，有阿以衝突各方參加的馬德裏中東和會。
1993年1月，在挪威外長霍爾斯特的調解下，以色列同巴解組織在奧斯陸先後舉行了14次秘密會談，終於在1993年8月達成協議，9月9日，巴解組織執委會主席阿拉法特和以色列總理拉賓互致信件相互承認，9月13日，阿拉法特與拉賓飛抵華盛頓，在美國總統克林頓的主持下簽署了巴以關於實施加沙——傑裏科自治原則宣言。1994年5月4日，這兩位領導人在開羅正式簽署了關於實施加沙——傑裏科自治原則宣言的執行協議。
1994年7月1日下午，當地時間3點15分，巴解組織執委會主席阿拉法特在戰友們的陪同下，通過以色列軍隊控製的埃及和加沙邊界口岸拉法，進入加沙巴勒斯坦自治區，回到了闊別近30年的巴勒斯坦家園。他親吻著這塊土地，激動得熱淚盈眶。
經過半個世紀的苦苦奮鬥，巴勒斯坦人民終於迎來了這具有裏程碑意義的重大勝利。盡管前麵的路還很漫長，但是，阿拉法特和他的人民相信，隻要一如既往地堅持鬥爭，他們一定能擁有一個“自由的、獨立的巴勒斯坦國”。