蔡公時是2日晚上9時到達濟南車站，並於3日上午10點到交涉公署開始辦公的。12時許，聽到外麵槍炮聲大作，隨行人員頗顯驚慌。蔡公時安慰大家：“此乃日兵示威，不要緊，請大家安心辦事。”他自己則給日本領事館打電話，對日軍的非法行為提出質問，可交涉署的電話很快被日軍切斷了。蔡公時意識到問題嚴重，急作三函，一封給十王殿戰地委員會張斡夫秘書轉呈蔣總司令；一封給外交部長黃郛；還有一封給戰地委員會主席。但他派出的外交信使，因日軍的武裝阻攔，上述公函一封也沒有轉遞。下午3時許，人們吃過一點便餐後，前交涉署的舊職員就告辭回家。蔡公時把他們送到大門口，請他們明日8時到署照常辦公。此時外麵槍炮不絕於耳，到了晚上9時，槍聲更密。蔡公時命部下各人歸寢。10時半，外麵忽有人叫門，傳達處的人來告蔡公時，說有武裝的日本兵在叫門，從門縫裏看他們，其勢洶洶，似尋事模樣。蔡公時嚴令他們堅守門戶，切勿放入。外麵的日本兵叫不開門，就用槍托敲破牆頭，二十多人一擁而入，一手持槍，一手用手電亂照，隨即破窗入室。
當雙方士兵衝突之初，有兩個日本兵在交涉署門前中流彈身亡，日軍就以此為由闖進交涉署，聲稱兩個日本兵是由交涉署發射的槍彈所打死，要搜查槍械。蔡公時阻止他們：“我們是外交官，不帶武器，沒有搜查的必要。本人是交涉員，此事可由貴國領事館約晤洽商。”
日本兵毫不理睬，聲嘶力竭地喊著：“你不配講這些，不必多說，有槍械快拿出來！”
其餘職員不知蔡公時與日本人談的什麼，蔡公時就把剛才的對話譯給他們聽。日兵不由分說，將蔡公時等從床上拖下，強行脫下上衣，有的連褲子也被脫去，隨即用槍刺、槍托亂打，然後用繩子將四人捆在一起，集中在一個房間裏。
日軍的指揮軍官坐在中間，命令蔡公時跪下。蔡公時的雙臂被反綁在背後，動彈不得，拚命大喊：“你就是殺了我，我也不能跪在侵略者的日本軍閥麵前。”在中國，自古以來，隻有上跪天子，下跪父母，被人當麵強迫跪下，無疑是最大的屈服與恥辱。
“你是說不願跪下？還有你更好看的哩！”日本兵邊說邊將蔡公時旁邊的職員張庶務拖出來，殘酷地割去耳鼻，問蔡公時：“怎麼樣？”
蔡公時淚流不止，說：“大家沒法，赴死可也。”
張庶務滿臉是血，悲憤萬狀，破口大罵日本人。日本人朝他開了一槍。接著又同樣地殺死了另一個中國人，再問：“現在怎麼樣？會跪下了吧？”
蔡公時仍然拒絕。15名外交官已被依次殺害，蔡公時還是站在那裏。日本兵就上來死死地按他的背部，割他的鼻子，傷他的耳朵，又用槍托將他的腿骨打斷，倒在地下。他掙紮著，大罵日本軍閥，並高呼：“此種國恥何時可雪？”日本兵就撬開他的嘴，割去了他的舌頭，最後對著他的胸口射了一排子彈。當時有一人倒在地上時，從日本兵的手電中得見諸人之形狀，大半有耳無鼻，有鼻無耳，血肉模糊，日本兵手中拿著從槍上卸下的刺刀，還在到處亂刺，口中皆“咻咻”如鬼叫。倒在地上的那人手正好觸到一把剪刀，讓旁邊的人將繩子剪開，三四個還活的人一齊往外跑，又被日本兵掃倒，隻有一人僥幸越牆逃出。