後來他到淮南（九江）就國。文帝三年（公元前177年），他從淮南來朝。文帝以為，高祖的幾個兒子隻剩下他和劉長兩個了，所以對他格外親熱。漢朝規定，諸王每年來朝見天子，隻見四次麵。第一次是親王剛到的時候，進宮見皇帝，見見麵吃頓飯就辭出，這叫“小見”。到了正月初一，所有親王和皇帝團聚在一起祝賀新年，舉行盛宴，這叫“法見”。過三天後，再為親王置酒，賞賜金錢財物。再過兩天，則是最後一次“小見”，是親王向皇帝辭行了。所以吏書說：親王“凡留長安，不過二十日”。
然而劉長不樂意走。他覺得九江沒有長安熱鬧，要多住些日子。文帝便也由著他。京中有淮南王府，但劉長卻常常住在宮裏。皇帝出去打獵，他就跟皇帝同車，一口一個“哥哥”地叫著，毫不講究什麼君臣之禮，文帝也不怪罪。
有一天，劉長帶著隨從魏敬到辟陽侯審食其府中，要替他母親報仇。審食其跟皇家關係密切。他是高祖的同鄉，曾做過高祖的舍人。彭城之戰中，他保著劉太公和呂後避難，一同做了項羽的俘虜。由於這種關係，後來很受呂後的信任，封為辟陽侯，並做過左丞相。文帝接位後，因他年齡已大，免去相職，讓他閑住在家中。卻不料劉長竟找他來算二十多年前的舊賬。而且劉長並不容他申辯，一見麵，從袖裏掏出鐵錐朝審食其就打，把審食其打倒後，再令魏敬用刀將其殺死。接著乘馬跑到宮門口，肉袒請罪。文帝隻好以他“其誌為親”為理由，將他赦免，放他歸國。
中郎將袁盎對文帝說：
“諸王驕奢過盛，必然要生後患，陛下對淮南王應該有所抑製。”
文帝點點頭，表示同意，但卻不采取任何措施。所以劉長歸國後，越發沒有顧忌。他出入的儀仗隊竟跟天子的一樣多。他還在淮南另外頒布一套法令，把朝廷派去的官員驅逐回去，請皇帝準他自己任命國相和二千石。漢代的官階不論品位，而是以多少“石”來表示級別。如“二千石”的月俸是穀一百二十斛（一斛十鬥），像州、郡的太守、王府的內史、中尉等重要官員都屬於這一級。事實上劉長已把淮南變成了他的獨立王國。對這種非分的要求，文帝竟然也“曲意從之”，不加拒絕。
然而劉長卻越來越跋扈。他隨意殺人，竟把關內侯這類享有朝廷封爵的人也殺了。文帝看他鬧得太不像話，隻好下詔責備他。劉長不服，上疏的言辭很不恭遜。文帝又讓薄太後的弟弟薄昭以舅舅的身份寫信勸告，反把劉長惹火了，派人去和閩越、匈奴等外族勾結，還偷偷將四十車兵器藏到長安以北的穀口，打算造反。
由於劉長過分張狂，他的那些秘密勾當終於被人發覺，上報朝廷。文帝派使者召他進京。那時他的造反準備工作還沒做好，隻得先到長安，看看風聲再說。不料一到長安，他就被捉入廷尉。文帝派丞相張蒼、代理禦史大夫馮敬和宗正（專管王族事務的衙門）、廷尉的官員一同審問。在事實麵前，劉長不得不承認。張蒼等人擬定的處分是棄市（在鬧市殺死）。
文帝下詔，赦免了劉長的死罪，廢去王位，流徙到蜀郡的邛州。
中郎將袁盎再次諫說：
“陛下平素寵溺淮南王，不給他請嚴師管教，不給他選賢良的國相，而一味嬌縱他，以至於到了這一步。淮南王性情剛烈，如今這樣摧折他，怕他難以承受，如果途中再有風露疾病，猝然卒去，陛下便有殺弟之名了。”
文帝說：
“我是有意讓他吃點苦，知道悔改，我就放他回來。”
對劉長的流徙用的是縣傳的辦法，就是把犯人裝進輜車，貼上封條，一縣一縣往下傳送。不料正如袁盎所預計，劉長憤而不食。而各縣的官員怕惹出是非，竟不曾發封查看。直到經過雍縣，雍縣縣令發封一瞧，淮南王劉長早已死在輜車裏了。
文帝聽到淮南王的死訊，十分悲傷。他對袁盎說：
“朕不聽公言，終於失去了淮南王！”下詔以列侯禮葬淮南王於雍縣，為他設三十戶守墓，而把沿途不曾發封的縣令一律棄市。
後來民間流傳著一首歌謠：
一尺布，
尚可縫；
一鬥粟，
尚可舂；
兄弟二人不相容。
史書說：“帝聞而病之（心中不安）。”因為雖說淮南王劉長之死是他咎由自取，但正如袁盎說的，皇帝也負有不加教導、一味嬌縱的責任。
這就是漢高祖劉邦兒女們的最後一出悲劇。