民國16年（1927）4月，蔣介石在南京成立“國民政府”；民國17年（1928）國民軍進駐北京，完全取代了北洋軍閥政府，南京政府宣布“統一告成”。從1927年至1949年9月，稱為南京政府時期。這一時期，薦福寺常駐國民黨軍隊，僧人逐漸失去對薦福寺的管理權，佛像不斷被毀，寺宇被侵占。到1949年5月前，殿宇房舍悉為軍用，佛像毀壞殆盡，僅有寺大門內西邊農房數間，住僧數人。
1929年，薦福寺內曾設苦兒院，主辦人係外籍教師，將大殿神像摧毀。
1935年胡宗南率中央軍第一師尾隨紅軍長征而到西北，開始駐防天水；西安事變後，胡升任第一軍軍長。1938年胡部在信陽對日作戰失敗，撤到陝西整訓，當時胡任第17軍團長，即駐進小雁塔所在的薦福寺，寺的正門在南邊，後門在北邊。胡在西安除有東倉門一號官邸外，其休息室在南門內下馬陵公館。胡來往小雁塔及接待一些高級人員時，均繞道薦福寺圍牆東側，出入南邊正門。胡從此以小雁塔所在薦福寺為他的最高指揮部，當時人們習慣上把胡的司令部稱“小雁塔”。
胡在小雁塔經曆了五個時期：第17軍團司令部（約在-1938年前後），統領3個軍；34集團軍總司令部（約在1942—1944年），統領6個軍；第一戰區長官司令部（約在1944—1946年）；西安綏靖公署（1947—1949年）；1943年時，已升任第八戰區副長官的胡宗南，已發展到指揮30多個軍100個師以上，堪稱百萬大軍了。
隨著蔣介石對胡宗南的特殊信任，使胡的職務越來越高，權力也相應擴大，辦事機構自然增加。小雁塔司令部已經容納不了九大處的人員了，即將第二處（情報）、第四處（補給）、政工處、民事處、高參室等部門遷到西安城內北院門和現在的兒童公園辦公；軍法處在城外張家村、經理處在五嶽廟辦公；在小雁塔內辦公的有第一處（人事）、第三處（參謀）及副官處、機要室、研究室等部門。
在抗日戰爭中，胡擁有百萬大軍，卻僅用少數部隊在潼關到秋林鎮的黃河口岸和從靈寶到荊紫關，布防抗日；隻派範漢傑率27軍向晉南太嶽山、中條山、太行山南段地區對日作戰；其餘大量部隊，以保陝、甘、綏後方交通、鞏固河西走廊中蘇國際通路、保衛陪都重慶安全為借口，對陝、甘、寧邊區實行包圍封鎖。
第34集團軍總司令部時期（約1942—1944年），曾在小雁塔舉行過一次慶賀胡宗南四十大壽的活動。
據載：“祝壽那天，胡宗南的三十四集團軍總司令部所在地——小雁塔內外，張燈結彩，煥然一新。尤其是各道門內，走廊簷下，那吊著的一盞盞大紅燈籠上，一個個燙金的‘壽’字，好不醒目耀眼。每逢客人到來，侍從們便點響歡迎的鞭炮。一時間，寧靜的古寺（薦福寺）籠罩在硝藥的煙霧中，長長的青磚甬道上落滿了紅綠紙屑。”
1943年6月下旬，周恩來、鄧穎超等100餘人乘汽車由渝返延，7月9日到達西安。當時已升任第八戰區副司令長官的胡宗南獲悉後，指定在小雁塔安排酒會，招待周恩來、鄧穎超。事先，胡從西安黃埔六期以上將軍級軍官中選30人左右，各偕夫人出席，對周以師禮相待，擬最好把周灌醉；胡還規定對周稱周先生，對蔣稱蔣委員長，對他本人稱胡宗南同誌。
7月10日下午招待酒會在小雁塔舉行。胡派秘書熊向暉乘專車前往七賢莊八路軍辦事處接周（鄧穎超因身體不適不能參加）。車到小雁塔，胡在會場外等候，向周敬禮，陪周進會場，環坐四周的作陪者起立相迎，胡陪同周在東側中間的雙人沙發上就座。周同胡交談，提出他想了解的問題。
胡政治部主任王某致歡迎詞，臨尾時提出：“請周先生和我們一起，祝領導全國抗戰的蔣委員長身體健康，請幹第一杯。”
周恩來舉杯起立，微笑著說：“王主任提到全國抗戰，我很欣賞。全國抗戰的基礎是國共兩黨的合作。蔣委員長是國民黨的總裁，為了表示國共合作共同抗日的誠意，我作為中國共產黨黨員，願意為蔣委員長的健康幹杯。各位都是國民黨黨員，也請各位為毛澤東主席的健康幹杯。”
胡與作陪者都不知所措，周舉目四顧，仍微笑著說，“看來各位有為難之處，我不強人所難，這杯酒還是免了吧。”他放下酒杯，繼續泰然自若地同胡談話。
酒會當中，不斷有一批批的軍官或夫人來向周敬酒，都被周巧妙地回絕了。當一批夫人以向周夫人表示敬意為名，請周代鄧穎超分別與她們幹杯以示周一向尊重婦女時，周恩來嚴肅地說，“這位夫人提到延安，我順便說幾句，前幾年，延安人民連小米都吃不上，經過自力更生，發展生產，日子比過去好，仍然很艱難。如果讓鄧穎超同誌喝這樣好的酒，她會感到於心不安。我尊重婦女，也尊重鄧穎超同誌的心情。請各位喝酒，我代她喝茶。我們彼此都尊重。”周舉茶杯碰她們的酒杯，夫人們喝了酒，他喝了茶。
告辭時，周恩來舉杯說，“感謝胡副長官盛情款待。我昨天到西安，看到朱德總司令7月4日給胡副長官的電報。裏頭說，胡副長官已將河防大軍向西調動，內戰危機有一觸即發之勢。今天我問胡副長官，這是怎麼回事？胡副長官告訴我，那都是謠傳。胡副長官說，他沒有進攻陝甘寧邊區的意圖，他指揮的部隊不會采取這樣的行動。我聽了很高興，我相信，大家聽了都會很高興。我借這個機會，向胡副長官，向各位將軍和夫人敬一杯酒。希望我們一起努力，堅持抗戰，堅持團結，堅持進步，打敗日本侵略者，收複南京、上海，收複北平、天津，收複東三省，收複所有被日寇侵占的中國的山河土地，徹底實現孫中山先生的三民主義，把我們的祖國建設成獨立、自由、幸福的強大國家！同意的，請幹杯。不同意的，不勉強。”說完，他一飲而盡，胡也一飲而盡，所有作陪的人也幹了杯。
胡陪周走向專車，車啟動後胡向周注目敬禮，周向他招手示意。
此次酒會前後乘專車接送周恩來的熊向暉，在接周赴會時，即以英語秘密告訴周胡的安排，要周提防被灌醉。1991年1月8日，熊向暉在《人民日報》（海外版）第7版上發表《地下十二年與周恩來》一文追述了此事。
到了西安綏署時期，胡宗南部隊則完全是對著共產黨打內戰了，胡的龐大軍隊成為國民黨在西北戰場的主力軍。中國共產黨領導的解放軍英勇善戰，自1947年青化砭、蟠龍鎮戰役後，接著在沙家店、羊馬河、瓦子街、永豐諸戰役中取得連續勝利，殲滅了胡宗南的大量主力。曾在小雁塔輔助胡指揮作戰的綏署參謀長盛文，因此被撤職處分，做了替罪羊。胡損兵折將的原因之一，是中共地下組織及時準確地獲取了胡的重要軍事、政治情報，做到了知己知彼。下麵摘錄兩件與小雁塔胡最高指揮部有關的情報外泄事件：
1945年秋末的一個晚上，在小雁塔胡宗南第一戰區長官辦公室，胡正在主持黨政軍警憲特聯席彙報會。司令部的情報處處長彙報說，他獲得了中共西安一個地下情報組織的首要人物王××所在地點的確切情報，並已決定當晚12時動手。參加聯席彙報的李茂堂就是中共地下工作人員，他得知這一情況後假裝煙癮發作，口吐白沫跌倒在地，隨即被送往醫院。在醫院，李掛電話通知其妻將情況轉告中共西安情報處。當胡的情報處長帶特務趕到中共西安情報處時，早已人去樓空。1948年5月，李茂堂又從一特務處得知中共西安情報處處長王超北一家的藏身之處，即將前往搜捕，李遂以回家拿衣服為由通知王一家立即轉移，再次使胡的特務撲了空。
1948年宜川戰役前，中共中央急需了解胡宗南部隊的軍事動態和胡部整編後甲乙丙三種整編師的編製內容和武器裝備情況，遂將此任務交與中共西安地下人員蔡茂林。蔡原是國民黨第一戰區司令部被服科上尉科員，1945年初調到西北補給區司令部工作，後來，蔡隨該部調到西安工作。蔡得知有關材料收藏於胡宗南西安綏署參謀處的保險櫃裏，遂找到參謀處兩個受胡親信排擠的中校參謀，以給部隊編造配發夏季服裝計劃為由，從綏署得到了整編後各軍、師、旅編製的有關資料。另外，在1946年下半年，蔡茂林還曾向中共西安情報處提供過幾份胡部的重要軍事情報。
1949年5月17日，胡宗南和西安綏靖公署被迫撤離小雁塔；5月20日，西安解放。
在胡部占用薦福寺小雁塔的12年中（1938—1949），薦福寺成為軍營，群眾根本不能進入院內，小雁塔也受到一定破壞。胡部撤離後，發現小雁塔底地宮內被垃圾填滿。
胡宗南於1962年病故台灣。最後撤離西安的綏署人員之一、副參謀長沈策1985年曾來小雁塔參觀他當年的辦公室，還一再表示感謝人民對他的寬大。