1963年1月，法國否決了英國參加歐洲經濟共同體的第一次申請。戴高樂認為，如果把英國納入歐洲共同體，將不啻在共同體內安插了一匹美國的“特洛伊木馬”。四年以後，戴高樂又一次地否決了威爾遜政府的第二次申請。
戴高樂一方麵排斥英國，另一方麵則爭取聯邦德國。在他的外交戰略中，法德關係問題占據著重要地位。他認為，既然德國已經一分為二，曆史不會允許再出現另一個俾斯麥或希特勒，那麼，法國就應該同毗鄰的聯邦德國結成同盟，以推動西歐聯合的車輪。阿登納則似乎看穿了戴高樂的心思，同時也確信聯邦德國絕不能沒有一個友好的、可以相互倚重的鄰居。在1958年9月，即戴高樂重新上台不到四個月，戴高樂和阿登納在朗布伊埃舉行首腦會晤。到了1963年初，戴高樂和阿登納在巴黎簽訂了全麵合作的法德條約。法德的合作關係，對於奠定西歐聯合的格局具有十分重大的意義。戴高樂和阿登納為他們身後的曆屆領導人作出了樣子，在涉及西歐的重大問題時，法德兩國總是先進行磋商。
在同蘇、德修好以後，戴高樂即加緊了撤出北約軍事組織的步驟。在此之前，戴高樂實際已在開始邁出撤退的步伐：
1959年3月：即他就任第五共和國總統的第3個月上，即下令法國地中海艦隊撤出北約軍事組織。
1964年5月4日，從北約海軍司令部撤出法國軍官。
1965年5月，宣布將不參加北約的軍事演習。
1966年7月23日，法國在北大西洋防務學院的高級人員和學員在本學期結業後撤走。
1967年4月1日，北約最高司令部和中歐司令部總部從法國領土遷走。
1966年10月1日，法國正式退出了北約軍事委員會。
這時，戴高樂已是76歲的老人了，卻依舊雄心不減，鬥誌高昂！
戴高樂在他的晚年回首往事時說他最感欣慰的，莫過於在大國角逐中為法蘭西民族贏得了榮譽，把法國獨立自主的觀念錘煉得更加牢固。他是第二次世界大戰以後西方世界裏第一個敢於向美國說“不”的國家領導人。他的退出北約軍事組織的舉措，給美國霸權主義基礎以猛烈衝擊。
1970年11月9日，戴高樂長眠於科龍貝墓地。
戴高樂逝世以後，曾盛情邀請他訪問中國(原擬於1971年訪華)的毛澤東從遙遠的東方向戴高樂夫人發來唁電，向這位“反法西斯侵略和維護法蘭西民族獨立的不屈戰士表示誠摯的悼念和敬意”。