公元前214年，秦始皇派蒙恬統率秦軍向西北追擊匈奴，在今陝西省東北角依傍黃河向東直達陰山，在河套以北陰山一帶地區設置三十四個縣，重新設置九原郡。接著，秦始皇又令蒙恬渡過黃河攻取高闕、陽山、北假一帶，修築亭障以驅逐胡人，令有罪之人來這裏謫戍，以充實新設置的諸縣人口。
公元前211年，秦始皇又下令從內地遷三萬戶到北河、榆中（今內蒙古伊金霍洛旗以北。這是其中一說，故地所在曆來說法不一）屯墾。這次大規模的移民屯墾，其意義遠遠超出了防止匈奴入侵的初衷，它大大有利於秦帝國邊疆地區的開發和邊境地區的民族融合，在政治上、經濟上以及文化交流上均具有重要的意義。
蒙恬率大軍攻擊匈奴取得了巨大的勝利，在當時產生了很大的震動。最終使匈奴“不敢南麵而望十餘年”。但是，這次勝利的取得也使秦王朝付出了重大的代價，而守衛攻占的領土和鞏固邊防，又給秦王朝帶來許多新的問題。像對匈奴作戰中的後勤糧草供給，不能不是秦軍的一個沉重負擔，作戰中的“死者不可勝數”也是在所難免。“發丁男以守河北”以及從內地遷徙三萬戶居民充實邊境，對加強和鞏固北部邊防確實具有重要的意義，但這一切畢竟不足以從根本上解決這一問題。秦始皇從長遠的觀點全麵地思考這一問題，並意識到必須尋求一項從根本上為鞏固北部邊防提供保障的措施。於是，秦始皇決定修築一條橫亙於匈奴南進中原道路上的人工軍事屏障。至此，在秦、趙、燕北部邊地長城的基礎上重修長城的方案，被秦始皇確定並付諸實施了。主持並負責實施這一浩大工程的，理所當然的是大將軍蒙恬和他所統帥的數十萬軍民。
公元前214年，在北伐匈奴的戰爭中屢建奇功的大將軍蒙恬應秦始皇詔令負責修築長城，一時間，軍民奮戰，轟轟烈烈，從齊國臨淄開始，綿延萬裏，到燕國的遼東為止，一場人類改造自然、征服自然的偉大運動開始了。新的長城在各國舊的長城的基礎上修葺、擴建而成。這條長城貫通東西，屹立在秦朝北部邊疆，是名副其實的“萬裏長城”。
作為軍事防禦工程體係，長城由關隘、邊城、城牆、城台、烽火台等構成。關隘、邊城居高臨險，扼守要衝，一般設在江河渡口之濱、險峰峻嶺之側或交通要道旁，憑山壑之險，構成邊防線上最重要的軍事要塞。對來犯之敵形成“一夫當關，萬夫莫開”的作戰態勢。城牆依山傍水，阻隔交通，可以有效地防止匈奴剽悍騎兵的長驅直入和大規模運動。城牆上在每隔大約500米的距離設有城台、敵樓可供屯兵、據守。其外沿修築有用於作戰的垛口。當敵人攻到牆身之下，利用高大的牆身所形成的死角掩護自己的時候，守軍就可利用牆台射殺敵人。牆台之外還有戰台，它是供守軍住宿和警戒的軍事設施。戰台一般都修築在高處，頂部是一個平坦的空間，便於了望。同時秦長城的修築也繼承了古老的消息傳替方式，在城牆之外，每隔若幹距離，便設置一烽火台。若遇緊急軍情，白晝燃煙，夜間舉火，依次傳遞，能在很短時間內將消息傳遍防線。並在長城沿線設有重兵駐守，還有大量移民實邊，軍民可以利用長城的各種軍事設施及時抵禦匈奴的侵擾。就當時的生產力水平而言，作為一個超大規模的軍事防禦體係，長城的設計和構造，都已經達到了古代軍事建築工程水平的巔峰。
然而，如此浩大工程，卻僅用數年即告完成。這不僅有賴於設計者、建築者的聰明才智，還必須集中大量人力、財力、物力。長城工程多建於偏僻險要之地，在工具簡陋、交通不便、勞動條件惡劣的條件下，完成如此艱巨的工程，民眾負擔的沉重是可想而知的。
就這樣，數十萬將士兵卒、楚鄉童男、齊魯壯漢、三秦囚徒用血肉之軀，背扛肩擔，綿延萬裏，將一塊塊巨石壘起在高山之巔、峭壁之上、峻嶺之間，汗水伴著血水一路流灑。有多少曾經健壯結實的身軀最終變得形若槁骸，又有多少風華正茂的青春被埋葬在這一塊塊厚重的磚石之內。可以說，長城的每一寸土地都浸染著血淚，每一塊磚石都承載著無數家庭妻離子散的悲歌。秦人曾留下一首《長城歌》，歌中唱道：“生男慎勿舉，生女哺用脯，不見長城下，屍骸相支拄！”廣為流傳的孟薑女哭長城、吊亡夫的故事雖為民間傳說，卻在一定程度上反映了百姓的哀怨與憤怒。