東晉隆安三年，北魏滅後燕，後燕慕容德率餘部南走，謀先據一方，作為根據地，部下張華建議攻取彭城，尚書潘聰則力陳彭城乃晉之重鎮，爭之不易，他：“彭城土廣人稀，平夷無險，且晉之舊鎮，未易可取，又密邇江淮，夏秋多水，乘舟而戰者，吳人之所長，我之所短也。不如取廣固而據之。”治通鑒》卷一百一十一晉紀三十三]潘聰是看到了彭城對於東晉的意義，才得出“未易可取”的結論。劉裕和劉義隆都曾以彭城作為北伐的基地。劉裕北伐後秦，即以彭城為其前進基地；劉裕以北伐之功先後進爵宋公、宋王，彭城是其封地的都城。劉宋元嘉北伐，彭城也是作為北伐的前進基地。元嘉七年北伐時，長沙王劉義欣出鎮彭城，為眾軍聲援；元嘉二十七年北伐前夕，王玄謨為彭城太守，進策經略中原，上表曰：“彭城要兼水陸，請以皇子撫臨州事。”治通鑒》卷一百二十五宋紀七]劉義隆遂以第三子劉駿為徐州刺史，鎮彭城，為北伐作準備。在這次北伐失敗後，劉駿與江夏王劉義恭堅守彭城，北魏南下，未敢輕攻彭城。
劉宋泰始年間的內亂中，宋明帝繕後不當，致使徐州刺史薛安都以彭城降北魏。劉宋試圖奪回彭城而未遂。此後，北魏積極經營彭城，作為南逼江淮的一個基地。北魏初據彭城，主將尉元上表請經營彭城：“彭城賊之要蕃，不有積粟強守，不可以固，若儲糧廣戍，雖劉彧師徒悉動，不敢窺覦淮北之地，此自然之勢也。”書》卷五十尉元傳]北魏太和四年，北魏徐州刺史薛虎子上表：“國家yù取江東，先須積穀彭城。切惟在鎮之兵，不減數萬，資糧之絹，人十二匹，用度無準，未及代下，不免饑寒，公私損費。今徐州良田十萬餘頃，水陸肥沃通流，足以灌溉，若以兵絹市牛，可得萬頭，興置屯田，一歲之中，且給官食。半兵芸殖，餘兵屯戍，且耕且守，不妨捍邊。一年之收，過於十倍之絹，暫時之耕，足充數載之食，於後兵資皆貯公庫，五稔之後，穀帛俱溢，非止戍卒豐飽，亦有吞敵之勢。”治通鑒》卷一百三十五齊紀一]到陳代時，吳明徹趁北周與北齊相爭之機北伐，收複淮南，並試圖進爭淮北，收複彭城，但他在圍攻彭城時，兵敗被擒。南朝經略淮北的最後一次機會也失去了。
唐代藩鎮割據時，淄青節度使李正己遣兵扼徐州甬橋、渦口，一時南北漕運之路斷絕，江淮進奉船千餘艘泊渦口不敢進。李泌建議唐德宗：“江淮漕運，以甬橋為咽喉，若失徐州，是失江淮也。國用何從而至！宜急建重鎮於徐州，使運路常通，則江淮安也。”史方輿紀要》卷二十九江南十一]
邳州可謂對徐州地位的一種補充。邳州也在淮泗水運線上，北近齊魯，南蔽江淮，為南北水陸交通的一大要衝。從淮安自泗口入泗水，逆泗水而上，至邳州，自邳州向西北沿泗水上行可至彭城而趨中原；自邳州向東北，正對沂水河穀，可趨山東。邳州與淮安俱為淮北與淮南的重要銜接點。南方爭淮北、北方爭淮南，都必爭邳州。劉裕北伐南燕，舟師自淮入泗，至下邳後，留船艦步行而進；滅南燕後鎮下邳，經營司循東下建康，劉裕還師，兵至下邳，以船載輜重，自率步騎歸建康。劉宋泰始年間，徐州刺史薛安都以彭城降北魏。北魏尉元經營彭城，曾上表請經略下邳、淮陽等地以挫宋軍：“若宋人向彭城，必由清泗過宿預，曆下邳；趨青州，路亦由下邳入沂水，經東安，此數者皆宋人用師之要，今若先定下邳、平宿預、鎮淮陽、戍東安，則青、冀諸鎮可不攻自克。”書》卷五十尉元傳]沈攸之沿泗水北進，試圖收複彭城，在下邳附近的清雎？口被北魏擊敗，淮北諸州遂不可複問。陳趁北方內亂遣吳明徹北伐，下邳一帶又成為爭奪的要點。五代初，淮南割據，抗衡中原一帶控淮泗之路，為南北爭奪的要點。朱溫以爭邳、徐而阻楊行密，後周則以取邳、徐而逼南唐。
這是東南地區江淮防禦體係的大致情況。大體來，可以分為幾個層次：長江一線可作為一個層次，在這一線上有京口、廣陵、姑孰、曆陽等重鎮，守護江南；長江至淮河之間可作為一個層次，在這一區域內有壽陽、鍾離、山陽、盱眙等重鎮，守護淮南；淮河至黃河之間又可作為一個層次，在這一區域內有彭城、邳州等軍事重鎮，守護淮北。
這幾個層次基本上顯示出了南北雙方隨著勢力消長而表現出的攻守形勢。南方強盛時，可以前出淮河以北，進取中原；南方衰弱時，則往往退守長江，消極防守；南北雙方勢均力敵時，則往往以淮河一線為對抗的前沿。
三南方的北伐
北伐的政治問題
從東晉南朝到南宋，南北對峙形勢下的東南政權，舉行過多次北伐。如祖逖北伐、褚裒北伐、殷浩北伐、恒溫北伐、謝萬北伐、謝玄北伐、劉裕北伐、劉宋元嘉北伐。蕭衍北伐、吳明徹北伐、南宋張浚北伐、嶽飛北伐、端平北伐等等。從這些頻繁發起的北伐中，可以折一些政治上的問題。
對於南北對峙形勢下的東南政權而言，北伐總是一麵旗幟，一麵可以用以收拾人心、整合南方社會的旗幟。
東南政權既然大多是喬遷政權，他們在北方少數民族占領北方地區之後，大都能整合南方社會，統一江南半壁江山。在他們整合南方社會的過程中，北伐、收複中原通常是其收拾人心的一麵旗幟。
東晉、南宋南遷之初，北方為少數民族所占，中原板蕩，百姓流離，人無定誌。南遷的政權要收拾局麵，穩定人心，憑的是中原文化的保全者和中國傳統政治中的正朔所在這麼一個身份。但他們又都是在一種特殊的背景下收拾局麵的。東晉、南宋南遷之前，西晉、北宋政權都是被北方少數民族政權覆滅。東晉的建立者司馬睿、南宋的建立者趙構都是以宗室藩王的身份重建社稷的。這就是，南遷到東南的政權並不是中原政權的原班遷移。這樣，新建立的政權要出來整合被衝擊得支離破碎的社會結構、社會秩序，對於自己的政權作為“正朔”和中原文化的保全者這麼一個身份尤須加以強調。
這時，北伐中原、收複舊疆便可以作為一麵非常有用的旗幟。這麵旗幟可以顯示出自己所建立的政權與中原政權之間的內在聯係。這一點對於維係人心、整合內部意義重大。也就是，此時打出北伐中原的旗號，對於江南政權內部政治上的意義甚至有過於北伐本身的意義。
的確，北伐中原，驅逐胡人，收複舊疆，重返故土，對於振奮社會人心是很有號召力的，這也是北伐可以利用的一項資源。王導在渡江士人們新亭對泣之時“當共戮力王室，克複神州，何至作楚囚相對泣邪！”書》卷六十五王導傳]之語，何等感勵人心！嶽飛“壯誌饑餐胡虜肉，笑談渴飲匈奴血”的壯言，又是何等慷慨激昂！
但在曆史上，南北對峙形勢下的東南政權發起的北伐雖多，真正徹底、真正成功的北伐卻很少。如果北伐僅僅隻是作為收拾人心、整合社會的一麵旗幟的話，那麼，社會整合的程度反過來也會影響北伐本身成就的取得。隻有一個整合得比較成功的社會中才能凝聚出比較強大的力量；相反，社會整合不夠的話，就凝聚不出強大的社會力量，也就無法有成功的和比較徹底意義上的北伐。
東晉前期，皇權旁落，門閥政治比較典型桓、謝等大族先後執掌朝政，幾個主要的大族相互牽製，又相互維係，從而使這種政出多門的局麵得以維持。這種局麵妨礙了封建統治秩序的全麵建立；也妨礙江南社會的全麵整合，所以，東晉前期的北伐如祖逖、褚裒、殷浩、謝萬、謝玄北伐時，南方社會整合程度遠遠不夠，牽製北伐的因素很多，因此未能取得大的成就。
祖逖北伐，晉廷並未給予實質支持。而當祖逖剛剛在河南打下基礎，晉廷即派戴淵前往節製。祖逖想到自己“已翦荊棘，收河南地，而淵雍容，一旦來統之，意甚怏怏；又聞王敦與劉、刁構隙，將有內難，知大功不遂，感激發病。”治通鑒》卷九十一晉紀十三]不久病死，北伐事業前功盡棄。褚裒北伐，“朝野皆以為中原指期可複”，而光祿大夫蔡謨則“獨調所親曰：‘胡滅誠為大慶，然恐更貽朝廷之憂。‘”治通鑒》卷九十八晉紀二十]當時各方的意圖及彼此矛盾非三言兩語所能透析，但上述史實已足可顯示褚裒北伐並沒得到江東社會的廣泛支持。
有時，北伐甚至成了門閥大族權力鬥爭的一個工具。如殷浩北伐就是這樣的。殷浩北伐在很大程度上是晉廷為了抑製恒溫北伐的動議。而且，殷浩北伐時，出身江左第一高門的王羲之就曾遺書殷浩：“今軍破於外，資竭於內，保淮之誌，非所複及。莫若還保長江，督將各複舊鎮。自長江以外，羈靡而已。”治通鑒》卷九十九晉紀二十一]對於北伐也並不讚成。殷浩北伐失敗後，桓溫趁機反擊，從而將北伐的資格據為己有，同時也將東晉的軍政大權握於己手。
桓溫北伐應該是取得了一定的影響。但桓溫北伐的用意，並不全在收複北方。他兵臨灞上卻不采王猛之議徑攻長安，進抵枋頭而不采郗超之議直趨鄴城，從此中似可窺見他雖專兵在外卻意在建康的梟雄心態。正是這種梟雄心態妨礙了他北伐成就的進一步取得。桓溫長期專擅上遊，遙製朝廷，雖王、謝大族亦無法予以裁製。
謝玄北伐時，正趁淝水之戰後南方空前高漲的士氣和北方紛亂的局麵，本應取得較大的成就；但此時，謝安正以剛建不世之功而受司馬氏的猜忌，謝玄請求自屯彭城以便“內藩朝廷”的建議甚至都不被朝議所允。
劉裕北伐時，至少算是事權歸一，受到的牽製較少。但其北伐有立功境外以樹立個人威望的意圖，他最終的目的是要造宋代晉。劉裕出身次等士族。在一個仍以喬遷士族為政治主體的社會裏，以一個次等士族，要想取高門士族共同維係百餘年的司馬氏政權而代之，必須取得這些高門士族的支持，這是劉裕造宋所麵臨的主要政治問題。所以，他要在對北敵的疆場上建立起足以取信於朝野的功勳，以便為改朝換代作準備。這對他北伐成就的進一步取得和北伐成果的鞏固造成了很大影響。
劉裕北伐應該是已經取得了相當大的成就。但是，盡管他平定了桓玄、盧循、譙縱，消滅了南燕、後秦，武功卓著，但高門士族對他的接受仍是有限的。他雖然控製了軍政大權，但社會基礎依然薄弱。所以，他在剛剛擊滅後秦、北伐功業如rì中之時，聽到他的重要謀士、留守建康的劉穆之死後，感到“根本無托”，遂從長安倉促東歸，致使關中旋得旋失，沒於赫連夏。在他死後，北魏趁喪南侵，河南又沒於北魏。而這點又影響了以後整個元嘉年間的南北關係。
本來，劉裕在晉末秉政的那段時間是整個東晉南朝曆史上南方實力最強、所據地理態勢也最好的時期，劉裕北伐本可取得更大的成就，至少，他已經取得的成就是可獲得進一步鞏固的，但由於上述的原因，致使他北伐的成就打了相當大的折扣。
劉宋時期，皇權得到加強，劉義隆北伐時，己能集中全部的國力從事北伐，但此時“南北觀念”已出現一種微妙的變化。自劉裕代晉，這種觀念上的微妙變化便已初顯端倪。劉裕在劉穆之死後倉促東歸，已是置關中於不顧；削弱豫州則又是置河南於不顧；劉義隆北伐，遣使告魏主“今當修複舊境，不關河北。”治通鑒》卷一二一元嘉七年]隻圖河南，不問河北，已無收複北方舊疆的意思，遣使北魏，則又一改東晉時期“不與劉、石通使”的立場二史考異》卷一八晉穆帝永和七年]。種種跡象表明，晉宋之際，“南北觀念”已出現一種微妙的變化。對於“華夷”南北對峙的政治現狀已經是一種理所當然的接受，其北伐已經根本沒有收複舊疆、統一下的意思。
南宋時期的北伐則因趙家王朝的偏安特對統兵將領一貫的猜忌、不信任而受到牽製。趙宋王朝為能苟安東南，甚至不惜自毀長城，殺掉嶽飛這樣的名將。
上述北伐史實，有一個共同的特當政者的北伐意圖實際上都在北伐之外。若要進一步深究的話，又當追溯到整個喬遷政權本身政治上的弱點。喬遷政權本身又是為強敵所逼、被迫遷徙的產物，故不免有偏安和不思進取的特夠收拾江南半壁江山的局麵已經非常滿足。這一點在東晉孫綽的上書中表現得比較典型。
時桓溫北伐收複洛陽，遂上疏請晉廷還於洛陽舊都，朝臣們以“北土蕭條，人情疑怯”，不樂北遷。這時孫綽上疏曰：“昔中宗龍飛，非惟信順協於人，實賴萬裏長江畫而守之耳。今自喪亂以來，六十餘年丘墟，函夏蕭條，士民播流江表，已經數世，存者老子長孫，亡者丘隴成行，雖北風之思感其素心，目前之哀實為交切。若遷都旋軫之興五陵，即複緬成遐域。泰山之安既難以理保，烝烝之思豈不纏於聖心哉！溫今此舉覽始終，為國遠圖；而百姓震駭，同懷危怯者，豈不以反舊之樂賒，趨死之憂促哉！何者？植根江外，數十年矣，一朝頓yù拔之，驅躕於窮荒之地，提挈萬裏，逾險浮深，離墳墓，棄生業，田宅不可複售，舟車無從而得，舍安樂之國，適習亂之鄉，將頓仆道途，飄溺江川，僅有達者。此仁者所宜哀矜，國家所宜深慮也！”治通鑒》卷一百零一晉紀二十三]
孫綽之言，無論在當時還是在後世，都很有代表南喬遷之地，已成“安樂之風”；中原故土，反成“習亂之鄉”。能保有江南“安樂之國”已經非常滿足。曆史上，喬遷東南的政權雖多以北伐、收複中原為口號，但真正徹底的北伐少，跟喬遷政權的上述特很大關係。
出於政治上的需要，以北伐作為整合南方社會的一麵旗幟，本無足厚非。在北方淪亡，中原板蕩之際，北伐的口號對於重建社稷、收拾人心、振奮士氣、奠定江南立國規模的確具有重大的意義。此時的北伐實際上具有整合內部和對抗北敵這雙重的意義。
然而，北伐除了作為旗幟外，畢竟還應有本身的內涵。隻有一個整合得比較成功的社會中才能凝聚出強大的力量，才會有真正徹底的北伐。此時，事權歸一，將帥用命，士氣振奮，社會組織、社會動員也都暢通有效。
如果南方的社會整合已經比較成功，就不需要再以北伐作為招牌，北伐才可能是真正徹底的北伐。本來，當喬遷政權在江南根基已固，內部經營初具規模以後，是可以作進一步的進取的；但對喬遷東南的政權而言，北伐大多隻是停留在第一層意義上，僅僅隻是作為一麵旗幟，一個招牌，因而少有比較徹底的北伐，也少有比較成功的北伐。
與東晉、南朝及南宋等喬遷政權相比，明初朱元璋的北伐才是真正徹底的北伐。朱元璋雖然也是起自東南，但其政權的基礎並無上述喬遷政權的種種特不需要拿北伐作為安定內部的招牌，北伐的目的就是要驅逐韃靼，恢複漢人的下。故其北伐才是真正徹底的北伐，也正因為徹底，其北伐才取得了最終的成功。