皇甫惟明發現吐蕃軍每次進犯隴右地區，都以洪濟城（今青海貴德西）為前哨陣地，遂決心除去這個隱患。天寶二年（743年）四月，皇甫惟明親自率領兵馬自西平郡（治西都，今青海樂都）出發，長途奔襲，推進千餘裏，向駐守洪濟城的吐蕃軍發起進攻。由於唐軍遠道而來，出其不意，很順利地便占領該城。
在天寶初年，唐玄宗喜好邊功，邊帥常以抗擊吐蕃有功而獲官爵。皇甫惟明在與吐蕃軍作戰中連戰連捷，立功心切，決定率廓州（治化隆，今屬青海）軍向吐蕃所占重鎮石堡城發起攻擊（又稱鐵刃城，在今青海湟源西南）。
石堡城是吐蕃的戰略要地，地勢險要，易守難攻。開元十七年（729年）三月，朔方節度使、信安王李禕用遠程奔襲的戰術，方攻占石堡城。但是在開元二十九年（741年）十二月，由於河西、隴右節度使蓋嘉運不思防務，致使吐蕃軍重新攻占石堡城。
皇甫惟明進至石堡城後，立即展開攻城。吐蕃守城將士一麵憑險據守，一麵傳書求援。吐蕃即派大論莽布支率軍兼程往援，並取得吐穀渾小王的配合，與守城將士裏應外合，攻打唐軍。皇甫惟明由於急功近利，隻顧攻城，忽略打援，結果使唐軍曹到重創，副將褚詡戰死，隻好退兵。
皇甫惟明進京獻俘。十二月，唐玄宗對他進行了封賞（《冊府元龜·卷一百三十一》）。天寶五年（746年）正月十三日，皇甫惟明又兼河西節度使，鴻臚卿。
元宵節。
皇甫惟明與韋堅相約一同遊玩，市井中遇上太子李亨與李適之，四人一起前往位於城內崇仁坊中的景龍道觀。
韋堅是太子李亨妃子韋氏的親哥哥，李適之是李亨的老師。
李適之說：“現在朝廷內是李林甫一手遮天，外是邊將安祿山得寵。如此下去，大唐危矣。”
韋堅說：“是啊，李林甫的馬料論，弄得忠義之人不敢發言。”
皇甫惟明說：“不如我們聯名彈劾，拔掉李林甫這塊石頭，舉薦韋大人為相。這樣，安祿山就沒有靠山了。”
李亨說：“這本奏折由李大人來寫，我想辦法交給父皇。”
忽然外麵一片喧嘩之聲，原來是金吾軍包圍了景龍道觀。
李亨斥責：“陳玄禮，你好大的膽，竟敢私自調動金吾軍。”
陳玄禮並不說話。
人馬分開，玄宗在前，一臉寒霜；李林甫跟在後，神情嚴肅。
四人慌忙跪拜。