祖逖今河北淶水縣人。東晉名將。
公元317年，晉朝皇族司馬睿在江南建立政權，建都建康（今江蘇南京），史稱東晉。東晉統治集團隻想偏安江南，不圖收複中原。南渡的人民思念故土，要求同留在北方的人民一起抗擊外來侵略者。祖逖就是當時主張北伐恢複中原的代表人物。
祖逖有一位極為知己的好朋友，名叫劉琨，祖逖和劉琨同為司州主簿，兩人誌同道合，感情也特別好。有一段時間，他們同睡在一張床上，共用一條被子，談論國家大事，有時通宵達旦而不知疲倦。
每天雄雞報曉，他們就起床在庭院裏舞劍，來鍛煉體魄和意誌，練習武藝，準備隨時好報效國家。有一天，剛到半夜雞就叫了，祖逖照樣把劉琨叫醒，說“此非惡聲也！”
意思是說，半夜裏雞把我們叫醒正是促成我們幹一番事業，這不是什麼壞聲音啊！於是兩人就乘著月光舞劍到天亮。經過長期的、艱苦的鍛煉，不僅強壯了他們的身體，也提高了武藝，因而進一步增強了他們幹一番大事業的決心。
公元311年，匈奴貴族劉聰攻陷了西晉的京城洛陽。祖逖和當時許多北方人一樣，扶老攜幼到南方避難。在長途跋涉的路途中，他主動指揮群眾，將自己的車馬讓給老弱病幼的人，還將自己的糧食分給缺糧的人，所以一到泗口（今江蘇境內），大家都推選他為首領。
後來他們渡江到京口（今江蘇鎮江）定居下來。這時江南暫時沒有戰爭，生活上比較安定，但北方各族統治者爭奪地盤，互相作戰，這對西晉收複中原是一個極好的有利時機。
祖逖抓住這個時機向當時的琅琊王司馬睿建議：“國家的動亂，胡人的入侵，完全是由於王室爭權而引起的。現在百姓雖然遭受戰爭的痛苦，可人人都懷著奮起殺敵的決心。如能讓我率領一支軍隊北伐，各地的英雄豪傑一定會起來響應，國家的恥辱可洗雪，中原的故土可恢複。”
司馬睿安於現狀，不想北伐，可又不好說反對，就給祖逖以奮威將軍、豫州刺史的官銜，隻給他千人口糧，3 000匹麻布，無一兵一卒，一刀一槍，讓他自行招兵買馬，出師北伐。
公元313年，祖逖帶領隨從他流亡到江南的親族和同鄉百餘家，渡江北上，準備收複失地。當祖逖率領船隊行駛到長江中流的時候，他擊楫並鄭重嚴肅地向著江水、向著部屬發誓說：“長江可以作證，我祖逖如不能收複中原，誓不回江東！”
過江以後，他在淮陰屯駐，一麵打造兵器，一麵招兵買馬。淮河流域的農民紛紛參加，很快就組成了一支2 000多人的隊伍，得到了各地人民的積極響應。
祖逖收複北方後，還在這個地區發展農業生產，招收從匈奴和羯族統治地區逃亡出來的人民，改善軍民生活，受到了人民的稱讚。