隻得以虛弱之軀，戴罪之身，撇下家人與重病的女兒，隻身上路離京。當韓愈孤身一人策馬行至蘭田關口時，隻見大雪塞途，馬不得前。正當韓愈滿懷孤寂。冤憤、悲涼的心情躑躅不前時，他的侄孫、老成的兒子韓湘冒雪趕來相伴，這使韓愈悲喜交集。他望著遠道而來的侄孫，放眼風雪中的關山，想冤情，憶別緒，念親人，一時更加悲憤難抑，感慨萬端，不能自己。於是，留下《左遷至蘭關示侄孫湘》一詩，詩雲：“一封朝奏九重天，夕貶潮陽路八千。本為聖明除弊政，敢將衰朽惜殘年。雲橫秦嶺家何在？雪擁蘭關馬不前。知汝遠來應有意，好收吾骨瘴江邊。”
韓愈離京不久，其家屬也被逐出長安，在途中趕上了韓愈。他患重病的女兒被迫上路後，終於在商山（今陝西商縣東南）離開了人世，韓愈隻能把她草草地葬在路旁的山腳之下。他懷著一種深深的負罪感，寫下一篇令人悲愴下淚的祭文，他痛感女兒拋屍他鄉，“魂單骨寒，無所托人”，痛呼這異地的孤墳將由“誰守誰瞻”？
韓愈大約在三四月份，一家到達潮州。潮州地處南方，有颶風、惡溪、瘴氣和鱷魚，與北方的環境大不一樣。韓愈感到自己年老體衰，恐怕此生無由再還長安了。為了求得唐憲宗的寬恕，他到達潮州後的第一件事就是給皇帝寄去《謝上表》，謝罪感恩。
由於韓愈一生堅持複興儒學，而“仁政”、“愛民”又是儒家學說中的核心內容之一。韓愈擔任潮州刺史，注意了解民情，關注民間疾苦。他了解到惡溪多有鱷魚，經常殘害吞食百姓的家畜，致使民生艱難。為此，韓愈采取了一種當時常見的，但是辦法來為民除害。他撰就了一篇《鱷魚文》，對惡溪中的鱷魚下達了驅逐令。說：“今與鱷魚約：盡三日，其率醜類南徙於海，以避天子之命吏”。韓愈命令部屬秦濟向惡溪投下豬羊各一隻，宣讀這一檄文後的當晚，惡溪水麵就出現了“暴風震雷”，幾日之後溪水幹涸，鱷魚西遷了60裏。從此以後，潮州再沒有發生鱷魚為害的事情。
韓愈來到潮州，這個有1萬餘戶人家的僻遠之州，州學廢止已久。不僅百餘年間無一人參加過明經、進士考試，許多人連鄉間一般禮義也不清楚，更無從談起以忠孝為本的儒家思想。為此，他特地在潮州辦起州學，並慎重地選拔了一名叫趙德的秀才，委以職事，讓他專門分管州學的具體工作。在辦學過程中，韓愈與趙德結下濃厚的友誼。韓愈還拿出自己俸祿的一部分補貼學生的生活，資助州學的發展。後來，潮州人把他尊之為神，專立韓文公廟，以紀念他在潮州期間的政績。
韓愈給朝廷的《謝上表》，博得了唐憲宗的同情和好感。裴度等人乘機為韓愈說情，使唐憲宗覺得自己錯怪了韓愈一片忠誠之心。不過他對韓愈說信佛的皇帝都短命一事，仍然耿耿於懷。加之部分幸臣從中挑撥，認為韓愈畢竟狂妄大意，不宜召回長安，暫讓他移到離京較近的地方為官。唐憲宗當年十月，詔命韓愈改任袁州（今江西宜春）刺史。韓愈於當年初冬離開了潮州。到袁州後，適逢袁州大旱。為當時的袁州，不少平民百姓，或因水旱災害所迫，或因公私債務難償，淪為豪門債主的奴婢。他們地位卑賤，境遇淒慘，經常被“鞭答役使”，有的甚至被折磨而死。韓愈到任後，查出為抵債而淪為奴婢的共有731人。他在返回長安後，上奏朝廷，建議在全國範圍內清查此類不合法的債權，予以免放。
在韓愈剛到袁州時，唐憲宗突然死去，太子李恒即位，是謂唐穆宗。韓愈元和十五年（820年）十月，奉詔離袁州重返長安。
韓愈此次返京後的新職是國子監祭酒，這是20年來韓愈第四次進入教育部門。前三次的博士之職僅是一位擔任主講的教員，這次所任的祭酒是國子監的最高長官。
韓愈來到國子監視事之後，發現一些弊端。原來吏部在為國子監選拔委任學官時，隻問資曆，不看真才實學，導致學官的質量下降，影響了國子監的正常教育。為此，韓愈在《國子監論新注學官碟》中向吏部提出建議，要求以後新授學官必須是“專通經傳，博涉墳史，及進士五經請色登科人”。這些人，要經過考核，合格者才能任命公布。韓愈還希望吏部下放部分事權，將選擇學官的一些具體事務交由國子祭酒去作。韓愈根據以上精神原則，親自推薦道德學問堪為人師的張籍擔任國子博士。在此之前，張籍任校書郎，官階九品，此次升任五品的國子博士，心情極為興奮。他在後來寫的《祭退之》一詩中說：“公文為時師，我亦有微聲。而後之學者，或號為韓、張……特狀為博士，始獲升朝行。”自韓愈對國子監整頓後，發生很大變化。像張籍等一批具有真才實學的人擔任了學館的不同職務，提高了講學的水平，使聽課的學生高興地說：“韓公來為祭酒，國子監不寂寞矣！”