與上述顯赫成就同在的，是三線建設的問題和遺憾。
在布局上，三線建設以“立即要打仗”為假設前提，實施了“靠山、分散、隱蔽、鑽洞”等方針，把每個工廠，甚至每個車間都規劃建設得極為分散，有的甚至采取了“村落式”、“瓜蔓式”、“羊拉屎”式布局。貴州的飛機部件裝配廠分散布置在9平方公裏的龐大範圍內，僅鍋爐房就有10個。以這種遊擊戰、備戰化的方法進行工廠建設，低效率、高投資是可以想見的。
由於三線建設是計劃經濟下的產物，上馬十分匆忙，規模非常龐大，加上政治動蕩、管理混亂等原因，浪費和損失很驚人。據測算，在1966~1978年的12年中，三線項目的損失、浪費及不能發揮效益的資金高達300億元，占同期國家用於三線資金的18%以上。
日後，很多領導三線建設的高級官員都從不同角度進行過反思。
薄一波認為教訓有四條：一，對戰爭的威脅估計過分；二，“散、山、洞”方針有嚴重的片麵性；三，小三線也有很大的浪費——所謂小三線，指的是沿海一些省份也把重要工廠一分為二，往山溝溝裏搬，造成生產經營的低效和浪費；四，積累率偏高，工業基建規模過大，使得積累和消費失調的矛盾進一步突出。
三線建設期間擔任物資管理部部長的袁寶華在談及工廠選址和布局時說：一些工廠的廠址選擇不當，廠子的布局不當，把車間給分散了，都跑到山溝裏邊去了，造成生產上很大的困難。另外，工廠一進山，就得自己養活自己，自己為自己服務，一個廠子就是一個小社會，什麼都得管，廠子的負擔相當重，成本很高。改革開放以後，這些三線企業根本留不住人了，因為這些地方學校的質量不好。工程技術人員們講，自己無非獻終身了，絕不能再獻子孫，無論如何得離開這個地方給孩子的教育找個出路。最後這些工廠大部分都從山裏邊又搬了出來。袁寶華還以二汽的選址為例說：“最典型的就是第二汽車廠的建設，把這個汽車廠的車間分散到幾條山溝裏，腦袋上又頂了一個水庫（指丹江口水庫），造成生產上的困難，這些流程都不那麼順當，可是就當時來說，這是備戰的需要。”
正如袁寶華所描述的，進入20世紀90 年代中期以後，隨著國家戰略調整，大量的三線工廠被廢棄，所有員工及家屬全搬到離工廠近200公裏外省會城市的生活區生活。2008年，一個曾經參加過三線建設的攝影師陳家剛出版了一本《永遠的三線》攝影集，他用鏡頭攝下了一幢幢被廢棄的、塵霧纏繞中的三線廠房。他寫道：“這些三線工廠地處大西南的深山溝裏，當年國家投資幾十億元建設而成，有成千上萬人在那裏工作和生活。所有的三線工廠都一樣，有派出所、學校、醫院、郵局，完全是一個完整的小社會。可後來，那裏如同一座座鬼城，隻有極少數老弱病殘的職工在守著那破舊而廢棄的廠房。那成排的生活區家屬樓空無一人，樓前雜草叢生，那些以前三線人栽種的蘋果、梨樹全無人管，任由它自生自滅。”
時任國家基本建設委員會主任的穀牧在《穀牧回憶錄》中記敘了這樣一件事情：到1965年底，主管經濟工作的中央領導們已經意識到三線建設的某些弊病，鄧小平、李富春（時任國務院副總理兼計委主任）率隊對幾處重要建設基地進行了考察，12月4日在昆明召開討論會，穀牧準備了詳細的發言提綱，提出了幾個供研討的命題，包括：“一二線有什麼工廠，三線也要有”這個要求如何具體落實？建設在三線的工廠要搞到多大規模？“靠山”靠到什麼程度，“分散”分到什麼程度？哪些項目要“進洞”？三線建設中的輕重工業比例如何掌握？職工家屬如何安排，隊伍如何保持穩定？等等。