次日清晨，在嚴密警戒下，我們在南城門樓上，縱論革命大好形勢，詳談起義事宜，很是情投意合。我們研究決定了起義計劃，定於10月10日國民黨國慶日起義。之後，由胡景鐸派人把我送到邊區米脂縣縣委朱俠夫同誌處。米脂縣委給送我來的那個副官及胡景鐸贈送了禮物。我由米脂回到綏德後，立即將以上情況向西北局發了電報，西北局複電要我即回延安麵議。我由綏德回到延安，向組織上做了詳細彙報。經西北局報中央後，批準了我與胡擬定的起義計劃，並決定叫準備北線戰役（解放榆林，後放棄）的聯防司令部派新四旅和教導旅開到北線配合，相機奪取響水堡和橫山縣。
9月下旬，我從延安又到了綏德地委。因無定河河水上漲，原定起義日期改為10月13日。12日夜晚，我率新四旅一個加強連（並帶有通訊電台）和50多名幹部經響水西南水溝邊境出發，經過了沙漠地區，於拂曉前按計劃到達波羅堡南門外約500公尺處之南土台。將部隊部署就緒後，以約定旗語暗號舉旗搖動，城上當即發號接應後，由胡景鐸率領起義官佐和警衛人員開了城門，前來土台與我會見。兩軍互相會合後，當即率部進入胡的司令部，由胡介紹了起義成功經過後（我們到達之前，胡已率國民黨第二十二軍八十六師新編十一旅及保安第九團5000餘人宣布起義），當即由人民解放軍接替了城防。對內防止反動部隊之嘩變，對外防備響水方麵來敵襲擊。當天以胡景鐸名義發表了起義宣言和號召榆林鄧寶珊等退出內戰，為和平建國而奮鬥的通電。
我和部隊進入波羅堡後，即用電台向西北局和中央報告了起義成功的喜訊。
10月16日（起義後第三日），胡奉命率部與陝甘寧晉綏聯防軍王世泰、張仲良、徐立清率領的新四旅、教導旅、警二旅會合。這是我第一次認識他們。之後，在響水南某村參加了北線指揮部會議，討論了毛主席關於乘波羅和橫山起義勝利機會，乘勝解放榆林，擴大北線作戰回旋餘地的電報指示，決定了圍響水城打援的作戰計劃。並參加了響水戰役和解放榆橫戰役，先後解放了橫山、響水堡和無定河以南2萬多平方公裏的地區和12萬人口。然後又率部回到了波羅堡，奉中央和西北局之命，成立了西北民主聯軍騎兵第六師，任命胡景鐸為師長，我為政治委員兼黨委書記。從策略上考慮，為了與人民解放軍有所區別，又將政治委員改任為政治部主任兼黨委書記。11月15日在波羅堡舉行了慶祝大會和閱兵典禮。胡景鐸和我分別講了話。由於橫山起義的王鎖子叛變和騎六師內部個別連隊企圖叛變，毛主席毅然決定，要起義部隊到延安整訓。當時許多人不夠理解，尤其是搞保衛工作的同誌顧慮重重，恐怕幾千人進入延安後，給延安造成一種難以控製的不安局麵，危害毛主席及中央首長的安全。密電向我詢問究竟，我當即複電備述利害得失，堅決擁護毛主席這一英明決定。11月中旬，起義部隊分前後兩個梯隊經鎮川堡、綏德地區，順利到達延安，受到了數萬軍民的熱烈歡迎。《解放日報》報道了騎六師抵達延安受到軍民熱烈歡迎的盛況。
1946年12月毛主席接見了我和胡景鐸，在座的有習仲勳、葉子龍、楊尚昆等。毛主席一見我有些詫異地說：“我教你回三十八軍去了，你怎麼又從這裏拱出來了！”沒等我回答，習仲勳、楊尚昆等說，可能是組織部搞的，沒有讓他回三十八軍去。毛主席“噢”了一聲說：“以後不要輕易地改變決定。”之後把話題轉到了騎六師起義的事上去了。直到此時，我才知道原來毛主席並不知道之前要我去組織三十八軍起義的決定改變。這很奇怪，我心中很納悶，不知道是怎麼一回事。直到今天我也說不清楚。