漢初，經濟殘破，民不聊生。秦時已經興起的匈奴部族的勢力逐漸強大，所控製的地域包括貝加爾湖以南遼闊的草原大漠。在秦末戰爭中，盡數收回了秦將蒙恬所占領的匈奴地方，又進入長城以南。楚漢戰爭時，中原疲於征戰，匈奴日益強盛，軍中勇士多達數十萬，對新生的西漢帝國形成了嚴重的威脅。漢高祖七年，匈奴發兵攻打太原郡，兵臨晉陽城下。劉邦於是親自率軍迎擊匈奴，時值冬季嚴寒，士卒中凍傷患病的人大量增加。匈奴冒頓單於佯敗，誘漢軍北上。
三十二萬漢軍追擊，劉邦先到平城，主力尚未抵達，匈奴派兵四十萬將劉邦圍困於平城東北的白登。漢軍指揮中樞七日不能與漢軍主力聯係，亦無法得到後勤補給，不得不賄賂單於妻閼氏，使說服單於解圍一角，終於脫逃，得與主力會合。匈奴退軍，劉邦也引兵而罷。此後，漢與匈奴結和親之約。相互約為兄弟，漢以宗室公主嫁與單於，每年給予匈奴織品酒米食品各有定數。不過，匈奴仍然時時侵擾代、雲中、上穀等郡國，使北邊地區社會經濟生活難以安定。
自平城之役以來，漢廷與匈奴的關係，表麵上以“和親”形式維係，卻一直處於戰和不定的狀態中。公元前177年夏天，匈奴右賢王乘文帝新即位，國內政局不穩，大舉入侵河套以南地區。
匈奴破壞和親，捕殺漢朝官吏和士兵，掠奪當地居民的財物和土地，漢文帝便發兵抗擊匈奴的騷擾。這是自實行“和親”政策以來，漢廷首次以兵戎對付匈奴。漢文帝派灌嬰率八萬五千車騎，在高奴迎擊右賢王，又發中尉材官防守長安。文帝還親自到甘泉督戰，結果右賢王兵敗逃出塞外。漢軍乘勝追擊，漢文帝從甘泉到達高奴，並取道高奴去太原。就在這時，濟北王劉興居得知文帝去太原，以為他要親自指揮追擊匈奴，乃起兵發動叛亂。漢文帝聞訊，立即命令灌嬰罷兵，同時趕回長安，平定濟北王的反叛。匈奴退回塞外後，即令右賢王西攻大月氏，先後征服樓蘭、烏孫等二十六國。
公元前176年，冒頓單於派人給漢文帝送來一封信，表示願意跟漢朝恢複和親。由於當時匈奴新破月氏，士氣方盛，形勢對漢朝不利，同時漢朝需要一個和平的環境，以便恢複和發展社會經濟，因此決定與匈奴恢複和親。公元前174年，漢文帝派人前往匈奴，雙方約為兄弟，還送給冒頓許多貴重物品。過了不久，冒頓單於死了，子稽粥繼位，這就是老上單於。老上單於初立，文帝將一位宗室公主嫁給他，還派宦官中行說為陪嫁大臣，他到了匈奴後經常為單於出謀劃策，勸他進攻漢朝，掠奪漢朝的財富，匈奴與漢廷的關係日趨緊張。公元前166年，匈奴以十四萬騎攻入朝那、蕭關一帶，殺死漢朝將領，擄掠了大批人民和牲畜，燒毀安定郡的回中宮，甚至前鋒到達雍縣和甘泉，威脅著漢朝都城的安全。漢文帝派中尉周舍、郎中令張武調集十萬騎兵，駐防長安以備匈奴。又派盧卿、周灶、張相如、董赤等人，發車騎進擊匈奴，將匈奴趕出塞外。
從此，匈奴日益驕橫，幾乎年年騷擾邊地，殺掠大量人民，雲中及遼東兩郡受害最為嚴重。公元前158年冬天，匈奴以三萬騎兵侵犯上郡和雲中郡，殺掠大批人民，告警頻頻傳至甘泉和長安，京師為之震動。朝廷派大將屯守飛狐口、句注和北地。在都城長安附近，也派重兵防守。
周亞夫駐守細柳時形勢緊張，駐軍戒備森嚴，隨時準備應急。漢文帝到細柳慰勞將士，周亞夫甚至披甲持兵，簡直到了劍拔弩張的地步。過了一個多月，漢廷大兵趕至邊地，匈奴撤出塞外，漢兵也停止追擊。
漢文帝在位期間，為了謀求安定和平的環境，對匈奴一直采取克製的態度。他繼續執行漢初的“和親”政策，避免大動幹戈。然而匈奴雖受益於和親政策，卻不信守和親的盟約，大規模的騷擾就有三次，小的侵襲則不計其數，不但邊郡人民深受其害，而且漢王朝用於軍隊的耗費也很大。當時晁錯上書漢文帝，分析漢朝與匈奴雙方在軍事上各自的短長，指出匈奴是個擅長騎射的遊牧部族，他們往來轉徙無常，入侵之機靈活，一旦發現守塞之卒有所減少，便隨時可以入境掠殺。如果朝廷不發兵救援，邊民勢必絕望而降附匈奴，而發兵人數少則無濟於事，即使人數多，距離遠的縣也是救兵剛到，匈奴人卻早已逃跑了。如果在邊地駐紮防守，費用開支實在太大，不在邊地駐守，匈奴人隨時可以打進來。這樣年複一年下去，則國窮而民不得安寧。於是，晁錯提出在邊地建立城邑，招募內地人民遷徙邊地，每個城邑移徙千戶以上的居民，由官府發給農具、衣服、糧食，直到他們能自給為止。凡接受招募遷往邊地的老百姓，有罪的可免其罪，無罪的可以拜爵或者免除徭役。遷往邊地的老百姓，能抵抗匈奴人的掠奪，奪回被匈奴人掠奪的財物，則由官府照價賞賜一半。這樣，使遠方無屯戍之苦，而塞下之民又可相保。