三天後，晚上七八點鍾，陳默接到報告張嘯林蹤跡的電話，隨即提了一個小提琴匣子趕到成都路口九星大戲院邊，這時已經有人接應等候了。
不久，三輛汽車首尾相接、風馳電掣般由東而來，快到十字路口時綠燈變紅燈，頭一輛車過去了，張嘯林所坐的第二輛車卻被留了下來。於是陳默提著琴匣向前，眼看張嘯林的汽車已開到機關槍下，很快地衝那輛黑色大轎車掃射。“嘟嘟……”打過來，張的司機阿四是見過幾分世麵的，見勢不好猛踩油門，飛也似闖過了路口，闖紅燈不犯死罪，一溜煙跑了，嚇破了膽的張嘯林再次死裏逃生。
張嘯林差一點兒吃到了機關槍子彈，嚐到了重慶分子的厲害，命是逃出來了，膽子卻被嚇破了。從此他不管白天黑夜全都閉門不出，躲在上海華格臬路住宅的三層樓上，終日吞雲吐霧。最多找些親近和信得過的朋友搓搓麻將。
戴笠接報，對軍統上海站刺張接二連三的失敗，大為惱怒，下令不惜代價完成任務。這使負責刺殺的陳默，不得不考慮改變策略。他知道，張嘯林遭受幾次狙擊，肯定會更加防範森嚴，甚至閉門不出，再采取設伏狙擊的辦法，恐怕難以奏效，唯有用重金收買張的內部人員。
林懷部就是在這時被軍統收買，答應見機除掉張嘯林。當時，陳默約見林懷部動之以情，曉之以民族大義，送之以5萬元支票，讓他在近日內下手，得手後軍統總部設法疏通，並會將他安排為法租界巡捕房捕辦。因為林對張的所作所為本來甚為不滿，又加上張性情火暴，喜怒無常，打罵手下人是常事。林懷部又在聽了許多有關張嘯林禍國殃民的劣跡後，熱血沸騰，一把握住陳默的手說道：“請蔣總裁和戴老板放心，我一定會完成組織交給我的任務。”林懷部原係上海法租界一名華人巡捕，係山東人，綽號“五和尚”，當時才二十五歲，其父親曾經在北洋軍隊裏服役，與張嘯林有點交情。因他槍法不凡，能在三五十步外射中撲克牌“A”的紅心，故甚得張嘯林的青睞，擔任張嘯林的貼身保鏢。
1940年8月14日，張宅大院裏保鏢們正在閑聊，樓上張嘯林與他的學生，時任杭州錫箔局局長的吳靜觀，密商著漢奸勾當。這時樓下天井裏喧嚷之聲直透三樓。張嘯林本來就懊惱，便站了起來手提煙槍憑欄下望，發現是他那20幾名保鏢在那兒互相罵。張大帥的脾氣一向毛焦火燥，這一來難免又發作了，因此他上半身伸到窗戶外，向樓下保鏢們厲聲喝罵：
“吵你媽的×啊，煩死人了，一天到晚吃飽了沒事幹，還要在我這裏吵吵鬧鬧，簡直是毫無體統！不想幹把槍放下，就給老子滾！老子多叫點東洋憲兵好了，用不著你們！”
如果在平日，主子一發火，手下人自會乖乖退下，等一下大帥氣平了，滿天星鬥必定一掃而空，像屁事也不曾發生。可這天早已做好暗殺準備的保鏢林懷部，裝著憤憤不平的樣子為自己辯護起來，惹得張嘯林勃然大怒，用手指著林懷部痛罵他的祖宗三代。林懷部卻一麵拔出手槍，一麵抬頭回話：
“他媽媽的，不幹就不幹！張嘯林，你要當漢奸，待我送你上西天！”
罵聲未停，槍聲已響，林懷部的槍法百步穿楊，一槍射中了張嘯林的咽喉，但見張嘯林身子向前一仆，頭顱向下垂著，大漢奸張嘯林就這樣被暗殺了。這一天是1940年8月14日，張嘯林時年六十三歲。
林懷部殺了張嘯林後，三步並作兩步走，眨眼間便爬上了兩層樓梯，一路如入無人之境，衝進張嘯林屍身所在的房間。見吳靜觀正撥電話向日本憲兵隊報警，林懷部便揚手一槍擊中後腦，一聲巨響，吳靜觀的身軀撲倒在桌子上。兩名漢奸，一師一徒，一步路走錯，終於不得善終，死於非命。打死兩人之後，林懷部立在門口大聲叫嚷：“我殺了大漢奸！我殺了大漢奸！”
因為這時期，日本與英、法、美尚未宣戰，日本憲兵隊要進入租界，還得巡捕房同意，辦手續才行。這樣，等日本憲兵趕到，林懷部早已被事先布置好的法國租界巡捕房帶走了。林懷部自供否定槍殺張嘯林與軍統特務有聯係，他是因為每月20元工資太低，難以維持生計，又加上其時請假不準，遭到張嘯林的辱罵，因而出於一時的義憤而開槍打死張嘯林的。
然而，抗戰以後，林懷部由法租界巡捕房安然無事地被釋放出來，曾要求萬墨林代向國民黨中央請功。顯然，林懷部與軍統特務有聯係，他打死張嘯林絕不是偶然的，而是經過精心布置的特務行動。