581年，隋朝的建立，結束了漢末以來數百年間的軍閥混戰和南北分立的局麵，使中國再度統一。然而，當時仍存在著遊牧於西北方的突厥與契丹貴族部落的威脅。
突厥是遊牧於金山（今阿爾泰山）一代的古代部族，6世紀中期，突厥在今鄂爾渾流域建立了政權，與中原北朝統治者保持通婚，人民之間相互往來，促進了雙方的經濟文化交流與社會發展。隋朝代替了北朝政權後，突厥就借口南下，擾掠隋境，今寧夏地區直接處於突厥攻掠的要衝，其中南部原州、北部靈州為其擾掠的主要目標。隋文帝新立，麵對強悍的突厥十分憂慮，采取的首要措施就是在開國當年修築長城，屯兵北境。自隋文帝開皇元年（581年）到隋煬帝大業四年（608年），在全國範圍內共築過4次長城，先後延續27年，其中有3次動用了民丁計一百四五十萬。據史料記載，在寧夏境內，隋朝曾經修築過一道新長城。《隋書·崔仲方傳》記載，隋文帝開皇五年（585年），“使司農少卿崔仲方，發丁三萬於朔方、靈武築長城，東距河，西至綏州，綿延七百裏，以遏胡寇”。多少年來，不斷有人考證，認為這段長城西起今靈武附近的黃河東岸，東經寧夏鹽池、陝西橫山至綏德。但是，這道長城具體走向缺載，寧夏境內遺跡不明。留下這樣的曆史迷霧，就引發了紛紜眾說，有關人士認為史料記載中的“東”“西”兩字一定是對調錯了，應該就是所謂的“西距河，東至綏州”。還有人認為後來的明長城是構築在隋長城之上的。也有人認為隋長城已被浩瀚的沙海吞噬。
隋朝是否在寧夏境內修築過長城軍事工程，有待專家學者進一步考證，得出科學的結論。然而，隋朝在北方大地修築的長城確實對突厥貴族的擾掠起到了關鍵作用。因隋軍的嚴密防範和軍事抗擊，突厥部落東西分離，東突厥逐漸走上了內附隋朝之路。當然，隋朝修築長城也給勞動人民帶來了災難。僅隋煬帝大業三年（607年）七月，就一次性發丁男百萬人修築長城，僅一旬而就。這次修築長城，死者過半，道殣相望，反映了隋朝勞役的沉重負擔。苦不堪言的勞役和楊廣的暴政統治，使隋朝與秦朝同樣早早地結束了短命的曆史，完全解決突厥的曆史性任務自然落在了取而代之的唐朝身上。