然而，鄧小平還是奉黨中央之命，於9月初抵達廣西省省會南寧。鄧小平是從上海經海路到達法屬印度支那的海防，然後由陸路進入廣西的。在他之後，又有幾位黨的幹部陸續進入廣西，其中包括曾經在蘇聯受過軍事訓練的張雲逸。鄧小平見到省主席俞作柏後，立即說服他任命張雲逸為廣西省警備大隊的大隊長和教導總隊的隊長，專門培訓初級軍官。之後，鄧小平和張雲逸開始靜候俞作柏出征反蔣。果然，俞作柏很快出兵，並帶著李明瑞和他一同行動。他們一出發，鄧小平和張雲逸就命令南寧警備部隊的一個營進駐廣西的西北山區待命，另一個營鎮守南寧通往河內紅七軍軍長張雲逸。的必經之地。他們還派出可靠的部隊占領了省軍械庫，庫裏有5000支步槍，一些山炮、迫擊炮和機關槍，幾台無線電裝置和大量的彈藥。這些戰利品是當時率領兩三千人在江西南部一帶活動、極度缺乏武器裝備的毛澤東做夢都想不到的。
俞作柏和李明瑞的軍事行動很快就結束了。他們的軍隊在廣西、廣東交界處被打敗，潰不成軍，他們兩人倉皇逃走。鄧小平和張雲逸一聽到這個消息，立即將軍械庫的全部軍火轉移到早已在南寧港準備好的汽船上，並命令部隊撤出南寧。鄧小平率領一支部隊乘船溯右江而上，在平馬（現在的田東）等待同張雲逸率領的部隊會合。兩支部隊會合後，繼續向廣西省西部一個偏遠的小鎮百色進發。在那裏鄧小平和張雲逸開始謀劃起義，它標誌著中國共產黨把蘇維埃運動擴展到了中國一個新的地區。
12月11日，在廣州起義兩周年的紀念日，鄧小平和張雲逸以中國工農紅軍第七軍的名義在百色鎮中心升起了鐮刀和斧頭交叉的旗幟。在右江下遊的平馬，工人、農民和士兵的代表集會，選舉出了工農蘇維埃政府。
在這兩個鎮，他們都沒有遇到武裝抵抗。鄧小平出任紅七軍的政委和前委書記。不久後，他又前往龍州地區，組織第二次起義，因為早在這年秋天，由鄧斌（鄧小平）和張雲逸署名發布的紅七軍司令部和政治部布告。
鄧小平就派南寧警備大隊的一個營占領了這一地區。
1930年2月1日，在臨近印度支那邊界的龍州，成立了蘇維埃政府以及中國工農紅軍第八軍。
在這個關鍵時刻，鄧小平突然神秘地回到了上海。據他的官方傳記記載，他此行的目的是向黨中央彙報工作。他可能是通過無線電（經香港中轉）收到了上海的指示，也可能是他自行決定回去的，而且後一種可能性更大，因為黨中央不太可能在兩個新建的根據地尚待鞏固的時刻把他召回去。另一方麵，他很可能還麵臨著一個政治上的難題，那就是如何安排李明瑞。李明瑞在廣西東部吃了敗仗後逃回了龍州，並一直在龍州協助鄧小平組織起義。李明瑞當然想在新建的軍隊中擔任某項職位，鄧小平也許是想同中央商量這件事。更富人情味的原因也許是他在為當時留在上海的妻子擔心。
鄧小平在上海待了兩個月，直到4月才回廣西。
在上海，黨中央決定任命李明瑞為紅七軍和紅八軍總指揮，鄧小平為政委。這一方麵解決了李明瑞的安排問題，另一方麵也表示中央對鄧小平這一段時間的工作是滿意的。當時黨中央的工作並不是由總書記向忠發負責，而是由組織部長李立三掌管。
鄧小平從上海回到廣西後發現，廣西的形勢在他離開的這段時間急轉直下。李宗仁和白崇禧，這兩個在1926年參加北伐之前統治廣西的軍閥，此時已經回到南寧，並迅速出兵進攻紅八軍。紅八軍隻有大約不到2000人，戰敗後被趕出根據地。紅七軍立即趕往南寧馳援紅八軍，但也被打敗，被迫撤退到百色城外偏僻的山區裏。
當年的春天和夏天，鄧小平冒著生命危險在當地幾乎沒有紅軍存在的地區，開展了“土地改革運動”。
協助他實施這項計劃的是韋拔群和李明瑞。韋拔群是共產黨員，也是當地農民運動的領袖，幾年前他就開始帶領一支農民部隊在山區活動。鄧小平“發動群眾，打土豪，分田地，進行土地革命”。沒收地主的土地，這一相當大膽的行動，完全是貫徹當時中央的精神。
這一做法比毛澤東當時在江西實行的土地政策還要過激，鄧小平後來轉而支持並采納毛澤東的做法。也許他意識到，徹底的土地革命往往造成土地收成減產，使農民的處境更加艱難，而農民正是紅軍主要的政治支柱和經濟支柱。
1930年6月，紅七軍離開山區，再次回到百色，開展革命活動並建立根據地。鄧小平也在這時重返紅七軍，開始積極地抓部隊的訓練工作。他還著手政治和行政工作，幫助創建了幾個縣級蘇維埃政府。