與此同時，恰好圍宋的子玉派使者宛春來晉軍中談判，提出了楚國撤軍的條件:如果晉國恢複衛主的君位，退還曹國的土地，楚軍就解除對宋國的圍攻。狐偃認為這樣的條件不公平(“君取一，臣取二”)，不能同意。又是先軫提出了更高明的主意。首先，他認為令尹子玉的建議可以安定三國(宋、曹、衛)，如果被晉國否定，則可能使這三個國家滅亡，這不符合“禮”，使晉國喪失了道德的大旗，這樣晉軍憑什麼來作戰呢?晉國憑什麼向諸侯交待呢?所以，他建議晉文公同意令尹子玉的條件。
接下來，先軫向晉文公獻上了一套連環計:
第一，叫宋國給齊、秦兩個大國送禮，請他們去做和事老勸楚國退兵，如果楚國答應，自然最好，如果不答應，齊、秦失了麵子，自然會站到晉國這邊，一起對付楚國。
第二，同時，把楚國小弟曹、衛二國的地盤分一些給宋國，以激怒楚國，並逼迫曹、衛二國給楚將子玉寫絕交信，還是話很難聽的那種。
《孫子兵法》有雲:“上兵伐謀，其次伐交，其次伐兵。”其實，在大國戰略中，“伐交”遠比“伐謀”重要，看來先軫不僅是一個軍事家，他在外交方麵的能力同樣不可小覷，不擇手段團結友國孤立敵國，這就是外交的精髓所在。
果然，子玉被先軫之妙計激怒，不但不肯退兵，反而撤了宋國之圍，帶領三軍北上，要去跟晉國人玩命。另一邊，齊、秦調解失敗，終於答應出兵參戰，抗楚統一戰線正式結成，如此，晉國這邊的兵力也增加到了十萬，相比楚軍，在數量上已經實力相當了。
五國聯軍，氣勢洶洶，有如暴風驟雨般一路北上，尋找晉軍主力決戰，雙方在曹都陶丘附近擺開陣勢，戰爭一觸即發。
這是“華夏”與“蠻夷”自春秋時代以來第一次最大規模的正麵對決，天下的歸屬，就在此一戰了。然而眼看雙方就要大打出手，晉、齊、秦、宋四國聯軍突然出乎所有人意料的撤退了，而且一退就是足足九十裏。
這次撤退，就是中國曆史上有名的“退避三舍”(古代計量，-“舍”為三十裏地)。
按照晉文公的說法，他這次撤退，為的是給楚成王麵子，畢竟當年人家在他落魄的時候收留過他。他未打先退，既顯得自己有氣度，又站在了道義的上風。
子玉卻不知道這些，還以為對方怕了自己，忙命令三軍拆掉好不容易建起的營寨，尾隨晉軍追去。他還自信滿滿地向全軍表示:“今日必無晉矣。”
子玉沒有想到，他說的這句話竟成為春秋時期最大的笑話。