在列城縣裏，他們占據了各個街道的環節，並且逐漸開始了一些零星的戰鬥，作為維護正義的軍隊，大鄭平義軍就必須維護屬於最大眾的利益。
何淦援、胡力共等率眾起義後，立即相互配合，開始了圍攻圓利城的作戰。其部署情況是：何淦援部以市門口為據點，由南向北進攻；胡力共部以虎桶源為主要據點，以張方莊、龍潭觀等為輔翼，直逼北門；李大油部以明魚灘為主要據點，以盾廟為後應，進攻東門；林元奮部駐鴨子河南岸，牽製外部陸元土匪軍；李莫樓、何博的水軍截擊土匪軍內河水軍，斷絕其水上交通。各路起義軍的總兵力號稱一萬，實際約有兩、三千人，沒有統一和正規的編製。部隊除裝備部分鳥槍、火炮外，大部分為刀矛等冷兵器。
圓利城領主葉那遜、黑暗薩滿教圓利城教主卡登等因城內兵力空虛，立即關閉城門，並采取如下應急措施：將派至與赤梁、馬飲、白鳳韓縣三鎮交界地區的馮名營兵千餘名調回圓利城，與土匪兵一千三百餘名共同防守炮台和水陸要隘；令各地豪紳教徒從速組建團練，並以“優給口糧”、“加倍給予工價”等辦法從縣城、某東、馮質、梅雙、廉其、俠苑等鎮先後雇募鄉勇五千名，增添內河戰船數百隻，選雇水勇、炮勇三千人，配合八旗、綠營作戰（同年秋，守城的兵士、團練增至一萬多人）；奏請陸元帝國速從河西、唐南等州調兵來列城縣會剿；組成以大買辦伍員那為頭子的“籌餉局”，後又無恥地乞求外漢殊蠻使駐軍出兵救援。隨著兵力的增加，葉那遜、卡登與列禦將軍周義和、右翼列禦將軍廣恩東會商，作了具體的防禦部署：參將衛邦德率所部綠營馮名營分駐東路和防守夕盧炮台；二團馮大榮、熊應濤率馮名營及部分團練駐守小北門外各要隘；遊擊將軍曾斤以、參將康南雙率綠營及部分團練駐守城北各要地；遊擊將軍陳定邦率部分綠營、炮勇分守金天、飛極、棟極等炮台；三團劉複存、王鎮雄及炮領將軍夏格繃等率土匪守衛北門外永興炮台；遊擊將軍陳國輝、水軍第一艦隊隊長王顯等率馮名營一部駐守城西的摩山寺、尻坡等處；協領全大兵、遼承恩、柳國蔭等率土匪及部分團練分守官城；四團熊懷率列城馮名營防守甕城。葉那遜等每日登摩山五層樓親自指揮。上述部署，以城北為重點，其次為城東和城西，同時加強炮台的守衛。
葉那遜等為了先發製人，派出副將崔大同、遊擊洪大順率馮名營兵三千餘人，欲進攻北路起義軍的據點江村。胡力共等聞訊，決定依托市門口周圍的有利地形，伏擊敵人。清軍進至市門口前時，忽遇滂沱大雨，火藥、火繩盡被淋濕，隻得在山坡紮營。埋伏在周圍的起義軍突然衝上山坡，與土匪軍展開白刃格鬥，殺死崔大同、洪大順等。土匪軍大量被殲，餘皆潰散。起義軍繳獲大批軍械物資，取得了初戰的勝利。
起義軍分三路進攻圓利城東、西、北各門，被清軍擊退。葉那遜等派出兵士約五千人再次對北路起義軍的據點雞欄岡發起進攻。胡力共一麵組織起義軍進行正麵阻擊，一麵派千餘人繞至土匪軍背後，襲擊敵人。經過激戰，起義軍再次將土匪軍擊退，一直追到離圓利城僅十裏的稷場，又一次取得了勝利。
此後，起義軍乘勝轉入進攻，兵鋒直逼圓利城下。葉那遜等不得不采取“隻守為戰，嚴密設防”的方針，依托城垣和炮台進行防禦作戰。
從854年8月初至9月初，北路、東路和西路起義軍，連續發起攻城作戰（有時一路單獨進攻，有時兩路或三路同時進攻），企圖先奪占炮台，進而攻入城內。由於土匪軍拚死抵禦，起義軍進攻一再受挫。例如，8月3日，北路起義軍數千人冒著狂風暴雨，從稷場繞至草鵝嶺，進攻永康場、水定原炮台。守台土匪軍發炮攔阻起義軍的進攻道路，接著，熊應濤率部從正麵迎戰，遊擊陳國輝、二團黃大榮率部從稷場進行側擊，迫使起義軍後撤。8月17日，東路起義軍猛撲距東門五裏的良周炮台。土匪軍同樣以部分兵力從正麵迎戰，以部分兵力從“旁徑繞出，奪據要隘”，前後夾擊，將起義軍擊退。8月29日，起義軍五千餘人從東、北兩個方向同時發起進攻，亦未獲勝。9月2日，北路起義軍又兵分兩路出擊：一路由黃家店至草鵝嶺進攻白雲庵，一路向稷場方向進攻。結果，進攻白雲庵的起義軍遭到兩路土匪軍的截擊，前進受阻；向稷場方向進攻的起義軍進至流化橋時，遭到永康場、耆定廠父、保極、拱極和摩山各炮台土匪軍的炮擊，也隻好再次後撤。