1964年8月吳嵩慶從軍中退役，當時蔣經國給他三個工作讓其選擇：第一是農民銀行總經理，其次是輔導會副主任委員，第三是虧負累累的唐榮鋼鐵公司（當年台灣最大的鋼鐵公司之一）。家人、親友紛紛勸其選擇薪水豐厚的農行總經理，他卻最終選定早已“惡名昭彰”的唐榮。後來，他曾回憶道：“但調職前消息早已傳播，親友聞訊都來規勸，絕對不可以去管這一爛攤子。後來竟成為事實，心中未免有無限感慨；特呈請正式自軍中退役，以示破釜沉舟義無反顧之意。”同時，他也拿“斷”了軍中的退休金，全部一次性領了新台幣10萬元（時值美金2500元），從此就與“國民政府”的一切退休金絕緣了。
從1964年到1976年，吳嵩慶在唐榮擔任董事長，辛辛苦苦耕耘了12年。剛接手時，唐榮全部資產共6.5億新台幣，而負債總額已超過資產2000萬元（6.7億餘元）；利息負擔沉重，每月債款利息就達300萬元以上，每月虧損高達500萬元。他一麵增資，一麵處理閑置資產，接掌後不到半年就轉虧為盈，增強了員工的工作信心。同時，他還擴大了規模，先後籌建了中興鋼鐵廠、中興合金鋼廠，並擴建台北的唐榮機械廠與鑄機廠。最後，唐榮鋼鐵公司在他手中起死回生，與1964年比較，由負債2000餘萬元，到1975年年底反而累積資金3.2億元。鋼錠產量由月產7000噸，提高到1.5萬噸。此外，煉鋼電爐和軋鋼機，除舊換新外，更大幅增加。然而，令人不可置信的是，吳嵩慶在擔任唐榮鋼鐵公司董事長的12年間，最初幾年沒拿薪金，唐榮公司也沒替他買個人壽險，而且居然也沒有退休金。而1976年3月他告別唐榮的時候，他的繼任人卻在不到一兩年時間內，便卷入了某項貪腐舞弊案。
此外，吳嵩慶還創建了“中國鋼鐵貿易公司”，對台灣鋼鐵產品出口事業做出了很大貢獻。吳嵩慶並籌建有“中國鋼鐵研究所”，研究鋼鐵工業發展前景和鋼鐵產品的生產技術，並多次參加國際鋼鐵協會及東南亞鋼鐵學會等組織的會議。吳嵩慶在台灣建設中，對鋼鐵產業做出了巨大貢獻，因此獲得了“台灣鋼鐵業元老”的稱號。
1976年吳嵩慶75歲時，辭去唐榮鋼鐵公司董事長職務，轉任私營萬邦公司董事長，一直到1991年過世。此外，他於1979年創辦了“大同老人福利基金會”，1981年成立了台北市“鬆柏之家”，為老人提供康樂教育休閑服務。在此之前（1958年），他還創辦了台北近郊景美的滬江中學，現有一棟以他的名字命名的教學大樓“嵩慶樓”，巍然矗立於校園中。
1991年9月25日，吳嵩慶首次回鎮海老家探親，在返台當晚即去世，葬於台北東北麵五指山上國民黨軍隊公墓，享年90歲。當時的台灣當局為吳嵩慶頒發了褒揚狀：
“除役陸軍中將吳嵩慶，誌慮忠純，清廉耿介。壯遊巴黎，學有專精，迭膺軍政要職，夙昭令績。於湖北省政府財政廳廳長，聯勤財務，軍需署署長及副總司令任內，建立製度，支應軍需，協助建軍備戰，厥功至偉。大陸易色，搶運庫存軍實，穩定基地金融，應變有方，勳遒益懋；嗣後主持唐榮公司，創辦滬江中學，致力國民外交，推展老人福利，亮節高風，允足矜式。茲聞溘逝，軫悼良深，應予明令褒揚，以彰忠藎。”
此褒揚狀係前北大教育係主任、毛澤東“少年中國學會”的會員同誌、吳嵩慶留法老同學吳俊升所寫，由時任“總統”李登輝簽發，可以看作是對吳嵩慶一生的蓋棺論定了。此褒揚狀既肯定了吳嵩慶在國民黨軍隊建設及台灣經濟建設中的重要作用，同時也以不可置辯的事實，證明了國民黨曾經往台灣轉運黃金銀圓及外彙的曆史。李登輝雖然否認國民黨有黃金運台，但總應該還認得自己親自簽發的文件吧！