1992年2月，拉賓再次當選為工黨領袖，並在隨後的全國大選中戰勝利庫德集團，7月13日，拉賓擔任總理並兼任國防部長。他第二次出任總理後，以實現中東和平為己任，他在就職演說中宣布“和平與安全”問題將是新政府的當務之急。他重申，他的政府把中東和平及結束以阿衝突置於一切工作的首位，采取現實、靈活和大膽的步驟來推動中東和談。作為第一步，他提出以色列願意討論約旦河西岸和加沙地區巴勒斯坦人的自治問題。上台伊始即向阿拉伯國家發起“令人目眩”的和平攻勢，表示願意邀請約旦國王、敘利亞總統和黎巴嫩總統到耶路撒冷討論和平，他也準備去這些國家訪問。
拉賓的和平倡議得到了阿拉伯世界的積極響應。埃及人主動邀請拉賓正式訪問埃及，巴勒斯坦發言人阿什拉維稱讚阿賓的倡儀“令人鼓舞”。阿賓更以實際行動回應阿拉伯人民，他宣布凍結100多個被占領土上的猶太移民定居點，這包括為新移民建造的6000套住房工程，並表示以色列從戈蘭高地部分地撤出是可能的。
拉賓很快得到回報，美國政府向以色列提供了100億美元的貸款；1992年，以色列國民總產值增長6.5%，人均收入達13000美元，拉賓的聲望在穩步上升，拉賓加快了與阿拉伯世界和解的步代。1993年3月13日，以巴雙方在華盛頓正式簽署了具有曆史意義的關於加沙和傑裏科《臨時自治安排的原則宣言》，揭開以巴和解的序幕，對中東和平進程產生重大影響，並迎來了1994年中東和平的一連串突破。
1994年5月4日，巴解組織與以色列簽署了在加沙和傑裏科實行自治的最後協議，使巴勒斯坦問題了取得實質性進展。同年11月，以色列開始向巴權力機構移交在西岸的行政權力。至1994年底，西岸的教育、衛生、社會事務、旅遊和稅收管理權也陸續移交。與此同時，以色列與約旦的外交關係實現完全正常化。7月25日，拉賓總理和侯賽因國王在華盛頓簽署了《華盛頓宣言》。10月26日，以約兩國正式簽署和平條約，結束了兩國長達46年的戰爭狀態。11月27日，以約宣布建立大使級外交關係。由於拉賓、佩雷斯和阿拉法特的共同努力，中東和平結出累累碩果，因此，他們三人共同分享了1994年諾貝爾和平獎。
在中東和平進程不斷取得進展中，猶太右翼極端分子接連製造恐怖活動，設置重重障礙。特別是以巴雙方在1995年9月28日簽署的在約旦河西岸擴大巴勒斯坦自治範圍的第二階段協議——塔巴協議後，以色列極右勢力和宗教極端分子反對以巴協議的活動驟然增加。他們將矛頭直指拉賓和他的政府。但是，以色列的和平力量在11月4日舉行了支持拉賓政府中東和平政策的聲勢浩大的和平群眾集會。然而，就在這次集會上，拉賓總理卻遭到猶太極端分子阿米爾的槍擊。這位後半生為中東和平事業奔波的政治家因搶救無效而逝世。
拉賓的遇難引起全世界的震驚，上百個國家的領導人和國際組織紛紛發表講話或發出唁電。拉賓的遺體被安葬在耶路撒冷赫爾茨山公墓。有44位外國國家元首和政府首腦參加了拉賓的葬禮，這是第二次世界大戰後各國政要人數出席最多的一次葬禮。