祖逖對司馬睿一拱手，豪氣地應道：“在下遵命！”
祖逖的心裏長長地籲了一口氣，而司馬睿的心裏，也長長地鬆了一口氣。
卻說祖逖接到了北伐的重任以後，首先解決財力問題，司馬睿撥的這點兒軍費哪夠塞牙縫的，他就把自己家的錢拿出來，幾乎全部充為軍資。好在全家支持北伐，也沒有太多的反對。再就是士卒來源，祖逖豎起招兵的大旗，上麵寫著：“我是男兒當衛國，不殺韃虜誓不還。”
要說這時建康的附近，果然聚焦著大批從北方來的流民，聽說祖逖要組織軍隊打回家鄉，個個興高采烈，紛紛前來報名入伍。祖逖的招兵處也不是什麼人都要，要是來混飯吃的人，不能要；身體有殘疾者，不能要；有劣跡的人，也不能要。複員軍人，卻大受歡迎。
北伐軍很快召集起2000人的隊伍，再多也不能要了，因為管不起飯。
武器又成了問題，隻能在民間搜集，實在沒有武器的，也隻能把家裏的砍刀、鋤頭當作臨時武器。祖逖匆忙率領著這支軍隊從京口（江蘇鎮江）渡過長江，望著波濤滾滾，一去不複返的江水，腦中閃現著家鄉的山山水水，田陌房舍，不覺得悲從心出，淚水沾滿了臉頰，拍打著船槳，信誓旦旦地說：
“祖逖如果不能平定中原收複失地，就如大江一樣，再也不回來了。”
帶著這樣堅定的決心與信念，祖逖率領著這支小小的部隊進入了河南境地，在雍丘駐紮下來。雍丘在哪裏，也就是現在的河南杞縣，在洛陽的東邊200來公裏。這時候的大漢劉聰，目標正放在長安上，根本沒把祖逖這支小部隊放在眼裏。
而石勒呢？目標正在幽州的經營上，根本沒注意到祖逖已經威脅到他的黃河以南。
祖逖身經百戰，知道自己的實力有限，並不能和石勒或者劉聰的主力正麵對抗。在此駐紮下來，背靠江東，要工匠鑄造兵器，叫人到各地招募士卒，操練軍隊，經營好黃河南這些地方，建立穩固的根據地，然後向北徐圖發展。
一日，招兵處來了一撥人馬，為首的是幾個年輕人，自稱為葉龍、葉虎、王勇猛，就連帶來的兵器也甚為奇特，招兵處不認得，便叫祖逖前去辨認。祖逖領著參軍殷乂到了跟前，見到這些人真是胖的威武，瘦的精神，特別是為首的年輕人，隻見他有三十來歲年紀，高高的個子，瘦巴巴的，卻十分精幹。
祖逖問他：“你是哪裏人氏，今年幾何？”
葉龍答道：“我們是濟南郡人氏，看到江河淪陷，匈奴橫行，所以前來參加祖逖將軍的軍隊。晚輩不才，今年34歲。”
祖逖點了點頭，又看了看這些兵器，就和一個個直筒子似的，底下還有個座。遂問道：“不知你帶的這些兵器，能起什麼作用？”
葉龍答道：“這叫迫擊炮，最多能射4000米，殺傷半徑最起碼在25米到30米。”
祖逖雖然是個武將，但是局限於冷兵器時代的思維，對於葉龍說得這些名詞，也甚是好奇，又問：“一米是多少？”