公元前633年，楚成王率領楚、鄭、陳、蔡等多國軍隊攻打宋國，希望以此阻止晉國向南擴張。宋國急忙派人到晉國求援。於是晉文公與群臣商議是否出兵及如何救宋。大夫先軫力勸晉文公出兵救宋。他認為，救宋一方麵可以報答當年宋國對晉文公的善意招待，另一方麵又可以大揚國威，成就霸業。但是宋國不靠近晉國，要遠征救宋，必須經過楚國的盟國曹、衛，而且正麵與楚軍交戰，也不一定能取勝。於是大夫狐偃便建議晉文公，先攻打曹、衛兩國，那時楚國一定會移兵相救，宋國之圍就可解了。晉文公采納了這個建議。
經過精心準備之後，晉國將軍隊集中在晉國和衛國的邊境上，拿當年曹共公曾侮辱過他當借口，要衛國借道伐曹，但衛國一口回絕。晉文公便迅速率大軍直搗衛境，把整個衛國占領了。接著，又向曹國發起猛攻，3個月後，也一舉拿下了曹國。
當晉國攻占了曹、衛兩國之後，楚國仍然全力圍攻宋國都城商丘，絲毫沒有撤軍的意思。這時候，宋國又派人來向晉國告急求救，晉文公頓感左右為難，出兵吧，自己兵力有限，沒有足夠的取勝把握；不出兵吧，又會背上忘恩負義之名。
這時，先軫又向晉文公獻計，讓晉文公利用楚國與秦、齊兩國的矛盾，建議讓宋國表麵疏遠晉國，然後由宋國出麵，送厚禮給秦、齊兩國，請他們調停宋、楚之爭，晉國則把曹、衛兩國的一部分土地送給宋國。楚國見自己的盟國曹國和衛國為晉國所占，一定會拒絕調停，這必將觸怒齊、秦兩國，這樣他們便會同晉國一同與楚交戰。
果然，楚國拒絕齊、秦兩國的調停。齊、秦兩國大為惱怒，便出兵助晉，頓時晉軍實力大增。楚成王見齊、秦與晉聯合，對自己極為不利，便全線回撤。但子玉卻對楚成王的撤軍計劃十分不滿，極力主戰。楚成王無法，隻得應允，但隻派少量兵力支援他。於是，子玉以元帥身份向陳、蔡、許、鄭四路諸侯發出命令，相約共同起兵。子玉率領中軍，以陳、蔡二路兵將為右軍，許、鄭二路兵將為左軍，快馬加鞭，向晉軍猛撲過來。
見楚軍來勢凶猛，晉文公就命令晉軍後撤以避開它的鋒芒。有些將領十分不理解，便問晉文公：“大王為什麼沒有交手，就命令後退呢？”
晉文公說：“我以前在楚國的時候，曾對楚王說過，如果晉楚萬一發生戰爭，我一定要退避三舍（即九十裏），我是守諾行事。”雖然說是遵守諾言，但是這也是晉文公的一條策略。晉軍退避三舍後，退到了衛國的城濮，這裏距離晉國比較近，糧草補給方便，又便於同齊、秦、宋等國軍隊會合，還可以避開楚軍的鋒芒，削弱對方的士氣，同時，“退避三舍”也能起到麻痹楚軍，爭取輿論同情，誘敵深入，激發晉軍士氣等作用。
公元前632年4月4日，晉楚兩軍開始決戰。晉軍針對楚軍中軍強大，左右兩翼薄弱的特點，及楚軍統帥子玉驕傲輕敵、不諳虛實的弱點，進行了有針對性的攻擊。
晉軍先命白乙丙出戰，可還沒交鋒，晉軍就忽然後退，還沒等到楚軍右翼陳、蔡兩軍明白是怎麼回事，隻見晉軍大開營門，晉軍大將領著一隊大車衝了出來。駕車的馬全都用虎皮蒙背。陳、蔡兩軍的戰馬還以為是真虎出來了，都嚇得四處亂竄。陳、蔡兩軍遭到這一突然而奇異的襲擊，個個驚慌失措，陣勢大亂，主將被殺，死者不計其數。就這樣楚軍右翼被迅速瓦解了。
晉軍派軍士假扮陳、蔡兩軍，打著陳、蔡軍隊的旗號，報告子玉說：“右路軍已經取勝了。”子玉見晉軍往北奔去，以為真勝了，便命左翼軍全力前進。晉軍攻打對方左翼軍的上將狐毛在指揮車上故意豎起兩麵鑲有彩帶的大旗，非常醒目，遠遠地就能望見。狐毛與楚軍左路許、鄭聯軍一交手，就故意敗下陣來，把大旗放倒，拖在地上。
在逃跑的時候，車的後麵拖了許多樹枝，樹枝刮起的塵土，遮天蔽日，給在高處指揮作戰的子玉造成了錯覺，以為晉軍潰不成軍，於是急令左翼部隊奮勇追殺。晉軍中軍元帥見楚軍已被引到自己埋伏的地方，便下令出擊，一時鼓聲大震。楚軍一驚，正要後撤，晉軍已經趕到，而假裝敗退的狐毛也回身反擊。在晉軍前後兩路的夾擊下，楚軍左路軍基本被全殲。
見左右兩翼軍都已失敗，子玉急忙下令收兵，這才保住了中軍，退出戰場。城濮之戰，最終以晉勝楚敗而告終。這次戰爭也大大長了晉國的聲威，開始奠定了晉文公的霸業。