當時洛陽空虛，民皆疲敝，到處都是董卓破壞後的痕跡。孫堅入城，見此慘狀，無限惆悵，潸然淚下。他命令部隊清掃漢室宗廟，用太牢之禮祭祀。一個偶然的機會，孫堅得到了漢王朝的傳國玉璽。璽方圓四寸，上紐交五龍，缺一角，上有文字“受命於天，既壽永昌。”因為世道混亂，漢帝不在身邊，諸侯之間又各懷鬼胎，於是孫堅是冒著殺身之禍秘密收藏起了玉璽，不希望其落入奸臣之手，等迎回漢帝後親自上交。孫堅整飭部隊，分兵出新安、澠池間進擊董卓。為防孫堅再來追擊，董卓派東中郎將董越駐守澠池（今三門峽），中郎將段煨（漢末名將，武威人）駐守華陰，中郎將牛輔駐守安邑（今山西夏縣），其餘的將領分布各縣，以確保洛陽被攻破後不會被直抵長安。
李儒又獻計陰使人說袁術曰：“孫堅乃江東猛虎；已經打破了洛陽，若殺了董卓，將會名譽天下，將脫離將軍您的控製，反而會淩駕於將軍之上，正是除狼而得虎也。今不與糧，彼軍必散。”袁術見不得別人強大，所以不管是誰說的，他隻要認為有道理就聽。於是不發糧草，孫堅軍缺食，軍中自亂。
細作報上關來，李肅為董卓帳下大都護胡軫（字文才，甘肅武威人）獻計說：“今夜我引一軍從小路下關，襲孫堅寨後，將軍擊其前寨，堅可擒矣。”胡軫從之，傳令軍士飽餐，乘夜下關。正直半夜，孫堅軍熟睡正酣，本來士兵半饑不飽，又突然遭遇襲營，於是堅軍亂竄，眾將各自混戰。隻有祖茂跟定孫堅，突圍而走。背後胡軫追來。孫堅取箭回射，連放兩箭，皆被胡軫躲過。再放第三箭時，因用力太猛，拽折了鵲畫弓，隻得棄弓縱馬而奔。祖茂說道：“主公頭上赤幘射目，為賊所識認。可脫幘與某戴之。”堅就脫幘換茂盔，分兩路而走。胡軫軍隻望赤幘者追趕，堅乃從小路得脫。祖茂被胡軫追急，將赤幘掛於人家燒不盡的庭柱上，卻入樹林潛躲。胡軫軍於月下遙見赤幘，四麵圍定，不敢近前。用箭射之，方知是計，遂向前取了赤幘。祖茂於林後殺出，揮雙刀欲劈胡軫；胡軫大喝一聲，將祖茂一刀砍於馬下。找孫堅至天明，胡軫方引兵上關。
孫堅收拾殘兵，本想退回陽城，又遇袁紹趁火打劫，派遣九江太守會稽人周昂，趁機襲取陽城。當時，除了孫堅在不斷與董卓作戰外，其餘的關東群雄早已將這事置之腦後，他們為了擴大勢力地盤，紛紛兼並割據。袁紹、袁術雖為兄弟，可互相也爾虞我詐，勾心鬥角。因袁術不讚同袁紹擁立新帝的提議，兄弟兩人因此翻臉決裂。當袁術派孫堅去攻打董卓未歸之時，袁紹卻改派周昂為豫州刺史，率兵襲取曾作為孫堅的本部陽城。
孫堅得此消息，十分感慨：“我們同舉義兵，目的是為了挽救江山社稷。如今逆賊將被掃滅，內部卻如此爭鬥起來，我跟誰戮力同心，回天轉日呢？”說完，仰天長歎，淚如雨下。事到如此，孫堅隻好指揮殘兵攻打周昂，周昂潰敗遁逃。
在討伐董卓的關東群雄中，孫堅軍是唯一一支數次與董卓軍隊進行正麵交鋒且取得大勝的軍隊，在曹操兵敗汴水、袁紹遲疑不進、酸棗聯軍瓦解、天下人駐足觀望之際，他的孤軍奮戰卻使藐視天下的董卓如芒在背、倉皇西竄。他的英雄氣概，也使得別的軍閥心生忌恨。當他的孤軍殺入京城，分兵函穀，兵戈西指欲對董卓趕盡殺絕之時，聯軍中的群雄卻各懷鬼胎，故意按兵不動，天下之勢已經由一起對抗董卓，轉為開拓群雄自己的領土。而即使孫堅再勇不可擋，也難以挽回脆弱的、分裂的討董聯盟。
孫堅一人之力無法撼動董卓西涼大軍，隻得退回廬江。於是第一波攻進洛陽的兵馬就這樣被聯軍出賣，雙方複又在虎牢關下展開拉鋸。