9月23日18時整，我軍總攻內城的戰鬥打響了。我軍的遠射程炮正在摧毀著皇亭體育場、偽警察局以及偽省政府等處新發現的敵人炮兵群。各種直射炮和曲射炮，各自對自己的目標，準確地射擊著。整個濟南城，被籠罩在滾滾濃煙之中。突然，三顆信號彈騰空而起，我軍的炮火延伸了，給突擊部隊留出一個空檔來。9縱73團7連爆破組的戰土們，像離弦的箭，在敵人交叉火力網下，迅速渡過護城河，炸毀了暗堡群，掃清了城下的障礙。接著，後續的爆破組在7連連長肖錫謙的指揮下，衝過水中的石橋，接近了牆根爆破點，一聲巨響，城牆塌下了一塊。就在劇烈的爆炸聲中，梯子組過河，將300多斤重的雲梯，豎在城牆上。雲梯被敵人炸斷，登城失利了。接著又連續兩次突擊，仍然沒有成功，部隊傷亡較大。時過午夜，經過幾小時的攻擊，我73團仍停留在原來的位置上。
這時聶司令員指示：在戰術上要多動腦筋，迅速找出失利的原因，不能蠻幹；同時要接受兄弟部隊的教訓，登上城後，要大膽楔人，插進縱深，迅速向兩翼發展，鞏固突破口。張幕韓團長放下話筒，立即和胡明副政委、政治處王濟生主任到了3營，與炮營營長、3營營長和7連幹部一起分析幾次失利的原因。大家認為，主要原因是我軍的炮火轟擊時間與架橋登城的時間配合不當。當我軍的炮火一響，敵人都藏起來了。我軍的炮火一延伸，我步兵架梯登城的時候，敵人又鑽出來了。於是張慕韓當即決定，不等炮火延伸就運動，就在我炮火轟擊的同時，架梯登城。
淩晨1點30分，第四次突擊開始了。這次的炮火更加集中、猛烈。全縱隊舶炮兵都支援著這個方向，炮彈以排山倒海之勢，傾瀉在城頭。我英勇的3營激戰3個小時，牢固地屹立在城頭上，鞏固並擴大了突破口，打開了整個戰鬥勝利的通道。張慕韓和指揮所的同誌們，緊隨3營登上城頭，立即組織部隊下城。1、2營越過城頭分路向西北方向插去，與敵人展開巷戰。敵人的抵抗越來越微弱，戰鬥順利地向縱深發展。在西線，13縱37師109團發揚一往無前的戰鬥精神，先後有2個營攻上城頭。24日拂曉，9連3排首以無一傷亡的飛速動作架上兩架梯子，緊接著7連3排長吳慶先在連幹部全部傷亡的緊急關頭，挺身而出指揮全連跳下水壕，衝到對岸，但這時梯子被敵炮火炸毀，2班長林桂泉立即從城牆傾塌處爬上去，登上城頭，緊跟著7連登城的9連，3連，先後疾速跳進城內，向東北方向打過去。於是，王耀武的內城防禦線繼在城東南裂開第一個缺口後，又在西南角裂開了第二個缺口。
隨著我軍在城頭上力量的逐漸增強，王耀武慌忙調集北側的整77旅231團全部，南側的整57旅全部，自己親自指揮，從東、南、北三麵封鎖我軍登城、下城道路，與我登城部隊在狹窄城頭地區，進行空前激烈的拉鋸式爭奪戰。麵對著南側敵57旅全部兵力的瘋狂反撲，109團的戰士們表現得十分頑強。濟南內城西南的突破口上這場驚天動地的惡戰，從拂曉一直延續到傍晚，109團的勇土們就像一個巨人，向城頭兩側伸出粗壯的雙臂，緊緊捏著王耀武1個旅又1個團的精銳兵力，有力地策應了兄弟部隊的攻擊。
這時，跳進城內向東北打去的109團3連和9連，還不知道後續部隊下城道路已被封鎖，這兩支大膽深入敵人心髒的隊伍，密切協同交替前進。在攻占第5座房子時，剛解放的戰士王文升表現勇猛，當即被指定代理4班長，他邊打邊喊話，俘敵70餘人。隨後他們在占領的第10幾座房屋處，遇到敵人一個多連的反撲，9連3排立即繞到敵人背後，切斷敵人的運動道路，協同正麵迎擊的3連，把敵人夾中間打。就在這時，3連呂連長回望突破口，隻見城頭上手榴彈對打著，洋鎬、鐵鍁、磚塊和子彈箱飛舞著，而這時他們兩個連也正處於四麵包圍之中。呂連長和9連劉指導員研究後，決定由9連警戒，3連打回去。當城牆上的敵人正在瘋狂反撲時，3連呂連長一個命令，幾排手榴彈連續地炸在敵人的屁股上，有力地策應南麵登城與北麵攻擊的友鄰部隊，牢固地控製了突破口。
其餘各縱都在自己的進攻正麵，英勇頑強，反複突擊，給敵以大量殺傷。然而，始終未能打開突破口。