赦罪封賞
於是元帝下詔赦免了甘延壽、陳湯的假傳聖旨之罪，然後又讓大臣討論封賞事宜。石顯、匡衡仍然堅持他們的主張。但元帝最終於封甘延壽為義成侯，賜陳湯爵位為關內侯，各賞食邑三百戶、黃金百斤，並拜陳湯為射聲校尉，延壽為長水校尉。
免職下獄
成帝劉驁即位後，丞相匡衡又向成帝起奏陳湯私藏戰品的事，說雖然赦免其罪，但不應有官職，於是陳湯被免職。之後陳湯向成帝上書，說康居王送到漢朝來的王子（名為侍子，實有人質之意）不是真正的王子。成帝命人核實，確實是真王子。假如王子是假的，那麼證明康居王對漢朝采取了欺騙手段，現已驗證是真的，那麼陳湯就犯有誣告乃至欺君之罪。陳湯被捕入獄，準備處以死刑。這時，太中大夫穀永向成帝上書，極力讚譽陳湯的功績，並引用《周書》說“記人之功，忘人之過，宜為君者也”，亟請皇帝開恩。於是陳湯被成帝特赦釋放，但取消了他的爵位，隻當個一般士兵。
巧破烏孫
幾年後，西域都護段會宗受到烏孫兵馬的圍攻，段會宗派人請求朝廷盡快發兵援救。丞相王商、大將軍王鳳及百官討論數日仍無結果。王鳳向成帝建議，請陳湯來幫助策劃。成帝立即召見陳湯。陳湯早在攻擊郅支時落下風濕病，兩臂不能屈伸，因此入見皇帝時，皇帝先下詔不用行跪拜之禮，讓他看段會宗寫回來的緊急求救奏書。陳湯推辭說：“將相九卿皆賢材通明，小臣罷癃，不足以策大事。”（《漢書——傅常鄭甘陳段傳》）成帝聽出他話中有怨氣，便說：“國家有急，君其毋讓。”陳湯說：“臣以為此必無可憂也。”成帝問他為什麼這樣說？他回答說：“一般情況下，五個胡兵相當於一個漢兵，因為他們的兵器原始笨重，弓箭也不鋒利。如今他們也學漢兵的製作技巧，有了較好的刀、箭，但仍然可以三比一來計算戰鬥力。現在圍攻會宗的烏孫兵馬不足以戰勝會宗，因此陛下盡管放心。即使發兵去救，輕騎平均每天可走五十裏，重騎平均才三十裏，根本不是救急之兵。”陳湯知道烏孫之軍皆烏合之眾，不能持久進攻，因此他推算了日期後說：“現在那裏的包圍已經解除。不出五天，會有好消息的。”過了四天果然軍書報回，說烏孫兵已解圍而去。
再次起用
大將軍王鳳通過這件事深感陳湯經驗豐富，大有用處，於是奏請皇帝啟用陳湯，任他為從事中郎，軍事上的大事都請他做出決斷。陳湯嚴明法令，采納眾人的意見辦事，頗有將帥風範。但他又經常接受人賄賂的金錢，最終因此而身敗名裂。
晚年
陳湯後被免職為庶人，徙居敦煌。住了幾年後，敦煌太守上書朝廷說：“陳湯曾經誅殺郅支單於，威風遠及外國，現在降為庶人，不宜住在邊塞地方。”於是又把他遷到安定（今寧夏固原縣）。議郎耿育看到陳湯處境可憐，便又上書於皇帝，再次論述了他的功績，說明當今國家“梟俊擒敵之臣，獨有一陳湯耳”。他之所以被冷落遭不幸，是由於嫉妒之臣的排擠、打擊所致，懇請皇帝予以關懷、照顧。皇帝下詔讓陳湯遷回長安居住，不久去世。
幾年後，王莽執政後，追諡陳湯為破胡壯侯，封其子陳馮為破胡侯，陳勳為討狄侯。