1928年3月初，國民黨朱培德所部第八十一團、第八十二團到了萬安，開始對農軍進行血腥鎮壓。一天，我黨萬安暴動的領導人曾天宇在羅塘灣的土墩被第八十一團圍住。在此危難情況下，曾天宇不願做俘虜，開槍自殺了。敵人把曾天宇的屍體抬到縣城北門懸掛，對革命者開展白色恐怖活動。過了一段時間，敵第八十一團、第八十二團先後撤走了。這時，康桂秀藏在外婆家，聽說曾天宇同誌犧牲了，她很悲痛，發誓要和同誌們並肩作戰，為犧牲的同誌報仇。此後，康桂秀跟隨萬安縣蘇維埃政府組織轉入地下工作。
隨陳毅上井岡
1928年9月中旬，毛澤東、朱德率領的紅四軍主力從湘南回師井岡山途中，攻克遂川縣城後，分兵到遂川和與之相鄰的萬安縣發動群眾。紅四軍政治部主任陳毅率紅四軍第二十八團第三營來到羅塘灣。
第一天，康桂秀躲在家裏，家裏的窗子正對著大路，見來了部隊，她沒有敢開門。到了夜晚，陳毅率領部隊到離羅塘灣村外不遠的一塊平地露宿，康桂秀確信這是窮人自己的隊伍。
第二天清晨，陳毅率領部隊在村裏刷寫、張貼了“紅軍是勞苦大眾的隊伍”“打土豪，分田地，消滅地主階級的剝削壓迫”等標語口號，康桂秀便派了村裏幾個識字的人到那裏看，回來告訴她標語口號的內容，康桂秀知道是紅軍來了。
第三天，紅軍又來到羅塘灣，陳毅召集了軍地黨團員和極積分子開會，在會上首先講了目前的形勢，還講到要發動群眾，組織群眾，為軍隊籌備糧食和蔬菜。康桂秀立即組織起男男女女千餘人，把丟到水塘裏的槍枝、梭鏢都撈起來了，並且立即派人與紅軍共同站崗放哨，偵察敵情，還沒收了反動靖衛團長和土豪劣紳的糧食、生豬等迎接紅軍。康桂秀率領鄉親們為陳毅的部隊把糧食和蔬菜等籌集齊備，可是陳毅的部隊沒有來得及帶就走了。
第四天，紅軍又來到羅塘灣，國民黨第八十一團隨後也來到了羅塘灣。紅軍見敵人強大，準備撤走，康桂秀等人也想跟著紅軍撤離。她立即帶領姐妹們找到陳毅，要求當紅軍。陳毅說：“你們都是女娃，年紀太小，怎能當紅軍？”康克清說：“我們都17歲了，也能扛槍打壞蛋。”陳毅對她們說：“當紅軍，要行軍打仗，白狗子捉到要砍腦殼，你們不怕嗎？”姑娘們不約而同地回答：“我們不怕！”康桂秀接著說：“人總是要死的，為革命而死，總比被人當棵爛白菜踩一輩子要強。”陳毅讚揚她講得很好，便讓遊必安帶領她們上井岡山。遊必安是個大學生，懂一點軍事，是萬安農軍的隊長。
開始跟紅軍走的有100多人，其中有7位女同誌。撤到雩田圩時，天還沒亮，第二天宿營在遂川城邊，紅軍與白軍戰鬥了一天，邊打邊撤，經遂川、草林、堆子前、黃坳、朱砂衝等地，第三天到了井岡山。這時，從萬安上了山的，由100多人減員至80人。在井岡山上，康桂秀吃上了紅米飯南瓜湯。
10月3號，上山的同誌改編為萬泰遊擊大隊，康桂秀被編在第一中隊，穿上了軍裝，戴上了八角帽，如願以償地成了一名紅軍戰士。康桂秀等紅軍女戰士就住在井岡山下一個叫小井的地方，開始承擔軍事值勤任務，負責把守這一帶的路口，隨時監視敵人的行動。
這時，毛澤東發出“修築完備的工事，建設較好的醫院，籌備充足的糧食”以鞏固井岡山軍事根據地的號召。康桂秀和萬泰遊擊大隊的其他同誌便開始從寧岡向井岡山上挑運糧食，修築黃洋界哨口，修建小井紅軍醫院，整整忙了3個多月，為建設和鞏固毛澤東開創的第一個紅色根據地，鞏固紅軍的大後方，作出了貢獻。
與朱德結為伉儷
1929年1月14日，朱德、毛澤東率領紅四軍軍部、直屬隊和第二十八團、第三十一團共3600多人，從井岡山上的茨坪和小行洲出發，向贛南出擊，揭開了創建中央革命根據地的序幕。康桂秀等跟隨朱德、毛澤東率領的部隊下了山。
一場罕見的大雪，給贛南的崇山峻嶺披上了銀裝，也給部隊行軍造成了很大困難。融化的雪水，使道路泥濘不堪。天氣寒冷，康桂秀等許多紅軍戰士隻穿著單衣，有的人甚至連鞋子也沒穿，隻好打著赤腳行軍，康桂秀的腳凍裂了口子，雖然很痛，但仍然堅持行軍。
朱德、毛澤東率部沿羅霄山脈左腰偏江西一側前進，每天行軍五六十裏。這時，新任國民黨“會剿”總指揮何鍵，弄清了紅四軍主力行動方向，立刻抽調李文彬旅和劉士毅旅前往大汾和左安，對紅四軍主力進行堵擊。紅四軍采取“盤旋式”打圈子的遊擊戰術，避強擊弱，擺脫敵軍跟蹤尾追，經上猶抵達崇義。22日進占大餘縣城，隨後在“三南”地區艱苦奮戰。月底，經安遠縣轉至尋烏，在尋烏吉潭圳下村宿營。第二天早晨，敵人追兵兩個旅4個團把圳下村團團圍住，並發起猛攻。在這危急時刻，朱德率領獨立營擔任後衛，掩護毛澤東帶領軍機關乘晨霧突出重圍。不幸的是，朱德夫人伍若蘭在這次突圍中身負重傷被俘。敵人馬上把捉到朱德夫人伍若蘭的消息告訴了蔣介石，蔣回電說，要“軟硬兼施，為我所用”。伍若蘭堅貞不屈，蔣介石授意：“斬首示眾。”2月22日，年僅22歲的伍若蘭被綁赴贛州衛府裏刑場，壯烈犧牲。行刑後，敵人又慘無人道地將她的頭割下，吊在一個很高的架子上示眾，後又將她的頭顱送到長沙，懸掛在城門上恐嚇革命群眾，朱德獲得消息後悲痛欲絕。
3月11日，毛澤東和朱德率領紅四軍主力進入閩西的長汀縣境內，次日部隊攻克長汀縣城。一日晚飯過後，朱德在住所外散步，微風吹來，朱德略感涼意，他伸手扣上頸下第一個扣子。這時，走來一位年輕幹練的紅軍女幹部，她叫曾誌，任紅四軍民運股長。朱德問她：“今天宣傳得怎麼樣？”曾誌答：“群眾的情緒很高，不少青年人都想參加紅軍呢！”朱軍長很高興，說：“好哇，我們是人民的軍隊，隻要替群眾辦好事，他們一定會擁護和支持我們。”曾誌沉思片刻，又說：“朱軍長，到我們那裏去坐一會兒吧。”朱德同意了，曾誌帶著朱德來到了女兵營。女兵們突然看到了朱軍長，有點緊張。朱德看到了坐在中間的一位個子高挑的女戰士，便問：“你是哪裏人？”答：“江西萬安縣羅塘灣。”曾誌搶過話頭，向朱軍長介紹了這位女兵的情況：她叫康桂秀，17歲。
又過數日，晚飯後，康桂秀剛回到住處坐下，曾誌來了，坐到她的身邊，親切地拉著她的手說：“你看朱軍長這個人怎麼樣？”康桂秀不假思索地回答：“軍長，人很好的，他帶領部隊打仗，英勇善戰，不怕犧牲，對士兵特別和藹可親。”
曾誌說：“若蘭大姐犧牲後，朱軍長精神上很痛苦，你和他結婚後，可以從生活上幫助他，從精神上安慰他。”康桂秀沉默了：論年齡，自己才17歲，他已經43歲了；論思想，自己很幼稚，他早已是成熟的軍事家；論地位，他是軍長，自己是位紅軍女戰士，差距都很大。
第二天早晨，朱德親自找康桂秀進行了一次深入的談話。他說：“看來你是不好意思回答，能不能這樣，隻要你不表示反對，不搖頭，就是同意，可以嗎？”康桂秀仍然一動不動。朱德又說：“那麼，我再問一遍，你能答應同我結婚嗎？”康桂秀仍然一動不動。朱德的臉色露出了喜色：“那麼，你答應了！”康桂秀微微地點了點頭。
晚飯後，曾誌幫著康桂秀把東西搬到了長汀縣城裏朱德的一間12平米的臥室，毛澤東、陳毅、譚震林及其他幾位紅軍領導前來祝賀，毛澤東對朱德說：“打了勝仗又結婚，雙喜臨門啊！”陳毅也說：“朱軍長今天容光煥發，我陳毅當然要借光喝酒了。新娘子，你要曉得，是我把你帶到紅軍隊伍裏來的，我陳毅是這門婚事的第一大功臣啊，你得多敬杯酒啊！”朱德用打下長汀後和戰士一樣分得的5塊銀洋，叫人買了幾個罐頭、幾斤美酒，招待大家。兩位革命者就這樣成為了伴侶。
威震敵膽的紅軍女司令
1929年4月1日，朱德、毛澤東率領紅四軍離開長汀，翻過五夷山，回師瑞金，康桂秀在紅四軍司令部隨隊進發。4月30日，紅軍攻克寧都，建立了於都、興國、寧都3個縣的革命政權。5月19日，朱德、毛澤東率領紅四軍主力從瑞金縣的武陽越過五夷山，進入閩西。6月22日，紅四軍黨的七大在龍岩召開。9月中旬，紅四軍黨的八大在上杭城裏的太忠廟召開。12月28日至29日，毛澤東、朱德和陳毅主持了紅四軍第九次黨的代表大會，即著名的古田會議，康克清負責紅四軍司令部機關的機要和警衛工作。
1930年1月16日，朱德、毛澤東率部攻占了石城以北的廣昌縣城。5月初，紅四軍前委決定，主力第三次入閩，以打通贛閩之間的聯係，並取得經濟和給養的補充。6月初，朱德、毛澤東率領紅四軍主力由尋烏出發，向閩西開進，康桂秀在紅四軍司令部從事機要工作。6月23日，朱德、毛澤東率紅四軍主力由長汀揮師北上，康桂秀接受朱德勸說，留在了後方。