1940年8月14日，上海華格臬路(今寧海西路)上的張公館，連續不斷地傳來幾聲槍響，隨之而來的是女眷們驚慌失措的尖叫聲和保鏢的追喊聲。一片混亂中，一名持槍男子被幾名保鏢攔腰抱住，只見男子毫無懼色地把槍往地上一扔，振臂高呼：“大丈夫一人做事一人當！”從容就擒。1937年，“八一三”事變，中日戰爭全面打響。10月下旬，戰局惡化，蔣介石準備放棄上海。為防止“三大亨”的勢力被日本人利用，蔣介石勸說杜月笙、黃金榮和張嘯林三人一起去香港。

正當蔣介石部署撤退之時，張嘯林卻暗自盤算：上海華洋雜處，各種勢力盤根錯節，日本人攻占容易統治難，必定要拉攏和利用幫會頭目。而“三大亨”中，黃金榮已明確表示不會出頭為日本人做事，而杜月笙又去了香港，這似乎正是他張嘯林獨霸上海灘的大好機會。這個時候他實際上已經決定了要投靠日本人。

1937年11月12日，上海淪陷。日本大特務土肥原通過曾經擔任皖系軍閥段祺瑞手下財政總長的李思浩與張嘯林正式洽談“合作”條件。張嘯林提出要當偽“上海市長”或偽“浙江省主席”，土肥原為引誘他早日上鉤，爽快答應。心癢難熬的張嘯林要李思浩盡快安排他和土肥原見上一面，以便把事情敲定。

與土肥原約見當日，張嘯林和一幫保鏢分乘三輛汽車前往位于虹口區的東湖旅社，途經外白渡橋時，日本海軍陸戰隊哨卡以沒有收到命令為由，加以阻攔，迫使張嘯林的車隊在外白渡橋停了大半天，由此，張嘯林去日租界的事情很快就在上海傳得沸沸揚揚。

這實際上是土肥原特意導演的，目的是以這種方式將張嘯林準備當漢奸的事公之于眾，以影響上海的其他人士。張嘯林的本意是要土肥原親自到他家里請他出山，以抬高身價，土肥原沒有賞他這個臉，而張嘯林做官心切，只好移樽就教，驅車去見土肥原。此時的張大亨還以為自己踏上了平步青云、飛黃騰達的階梯，卻不知道他已經在為他最終的滅亡，埋下了一顆危險的種子。

然而，張嘯林沒有想到的是，日方已與汪精衛集團加強了勾結。與汪精衛之流相比，張嘯林的利用價值自然要小得多，所以會見時，土肥原對官職一事只字不提，張嘯林好處尚未到手，賣身投敵的企圖卻已路人皆知，心里好不懊喪。

張嘯林雖然沒有做成漢奸官，但卻發了漢奸財。1939年前后，日本侵略軍在上海的補給供應發生了困難，日本人找張嘯林幫助解決物資短缺的難題，這正中了張嘯林的下懷。

張嘯林和他的親家俞葉封一起公開組織了一個“新亞和平促進會”，專門為日本侵略者強行征購糧食、棉花、煤炭等軍需用品，日本人因此而獲得了大量必不可少的戰略物資。與此同時，巨額的法幣、美鈔也滾滾而來，流入了張嘯林、俞葉封等人的荷包。

此外，張嘯林還趁機招兵買馬，廣收門徒，并布置手下，脅迫各行各業與日本人“共存共榮”，大肆鎮壓抗日救亡運動，捕殺愛國志士。正是如此這般肆無忌憚的投敵賣國行為為張大亨招來了殺身之禍，一雙無處不在的眼睛早已盯上了他，一場腥風血雨的除奸行動已經悄悄地拉開了序幕。

隨著張嘯林叛國舉動的愈演愈烈，國民黨的不安與日俱增，除掉張嘯林，已被提上議事日程。蔣介石親自指示軍統局長戴笠對張嘯林予以制裁。戴笠向潛伏在上海的軍統上海區發出了針對張嘯林的鋤奸令，此事由軍統上海區第二行動大隊分隊長陳默負責具體策劃和執行。

陳默是杜月笙的得意門生，曾在國民黨中央軍校高級班受過訓，抗戰之前曾任上海警備司令部稽查處經濟組組長。

1940年1月13日，行動組獲悉張嘯林的親家俞葉封邀請他第二天去更新舞臺包廂看京劇名角新艷秋的演出，于是，陳默決定利用張嘯林在包廂看戲之際對他下手。

行動那日晚上，軍統的若干便衣特工早早地來到更新舞臺樓上第一排就座，旁邊就是俞葉封。特工們緊緊握著藏在懷里的手槍，伺機而動。

此時的張嘯林對戲院里的情況毫不知情，集結了一干保鏢正準備出門，他決不會想到，在戲院里等著他的不僅僅有一臺好戲，還有幾把蓄勢待發的手槍。

正當演出進入高潮，觀眾如癡如醉之時，突然，一陣槍聲響起，剎那間，樓上包廂內已有人倒在了血泊之中。

可惜的是，張嘯林那天臨時有事，沒能去劇院看戲，只有俞葉封做了他的替死鬼。

一次暗殺不成，已然打草驚蛇。俞葉封被亂搶掃死在更新舞臺的包廂里，這件事著實使張嘯林心驚肉跳，嚇得他一時不敢出門。然而，張嘯林賭性難改，即使是在危機四伏的情況下，仍然每天晚上要帶上十余名保鏢到大新公司五樓的賭場去賭博逍遙。

行動組清楚地獲知了這一情況，并且具體掌握了張嘯林的行車路線。賭場完事后，路上必然要經過善鐘路(今常熟路)和霞飛路(今淮海中路)交叉的十字路口，陳默決定就在這十字路口下手。為了保險起見，他們事先對紅綠燈做了手腳，只要張嘯林的車隊一到，特務們就可以拉開紅燈。

一切按計劃進行著，行動當日，軍統在十字路口設下了埋伏。張嘯林的車隊出現在路口了，特工忙拉開紅燈，司機見了紅燈，被迫減速。埋伏在一旁的軍統特工沒等汽車完全停穩就一擁而上，對著汽車亂掃一氣。張嘯林的司機多年來跟他出生入死，經驗很豐富，一見這種情況，立即猛踩油門，汽車沖了過去。車身雖然中了很多槍彈，但是張嘯林卻又逃過了一劫。

兩次險些遭人暗算之后，張嘯林開始足不出戶，以靜制動，導致軍統特工對他束手無策，找不到任何下手的機會。陳默只好另找辦法，動用內線。其實，第一次暗殺張嘯林未成之后，陳默就已經在張嘯林的周圍找到了一個做內線的人選，并且以鏟除漢奸的民族大義將他成功策反，此人便是林懷部。

接連遭人暗算，張嘯林不得不加強守衛，希望能找到幾個身手和槍法都十分超群的保鏢，于是，他的貼身司機王文虎向他推薦了林懷部。林懷部，山東人，其父曾在北洋軍隊當過團長，后因父死家貧，便到上海投考法租界的巡捕房，因為槍法精準，成了巡捕房的一名華捕，并拜張嘯林的司機王文虎為“過房爺”。

此時的杜月笙雖然人在香港，但仍密切關注著上海的動向，與戴笠也保持著密切的聯系。

為了便利港滬兩地的聯絡和通訊，杜月笙讓一名與日本特務機關有關系的代理人，在上海設立了秘密電臺。電臺不僅使杜月笙能夠時刻保持同上海的密切聯系，同時也使軍統指揮上海鐵血鋤奸的地下行動，如手使指，極其靈活。

張嘯林與日本人打得火熱之時，戴笠也曾經提示杜月笙要放棄兄弟情誼大義滅親。但當時杜月笙沒有明確表態。

當然，杜月笙也不是沒有勸過張嘯林，在去香港之前，他曾多次勸張嘯林離開上海，無奈張嘯林不僅不聽勸告，反而將他大罵一通，并且執迷不悟地繼續同日本人狼狽為奸，出賣國家和民族的利益。

此時的張嘯林，處境已經十分危急，軍統在他府中安插了內線，隨時都會取他性命。杜月笙遠在香港，眼看著自己的拜把子兄弟命懸一線，但民族大義當前自己又不能有所作為。此時的張嘯林，自以為有了保鏢和日本憲兵的保護就可以安枕無憂，完全不知道自己末日已近。

1940年8月14日，一輛汽車駛進了張宅大院，從車上走下來的是張嘯林的得意門生吳金桂，時任偽杭州錫箔局局長。吳金桂一進門，就被管家迎上了樓。

張嘯林和吳金桂相談甚歡，突然從樓下傳來一陣嘈雜的喧鬧聲，吵到了張嘯林的好興致。他兩步跨到陽臺一看究竟，原來是林懷部在和司機吵架。

張嘯林將半個身子探出陽臺，沖著林懷部大罵，林懷部也毫不示弱，拔出了槍。林懷部一槍射中了張嘯林，子彈從咽喉貫穿到后腦，張嘯林還來不及慘叫一聲，就已經鮮血淋淋地掛倒在了陽臺上。

見此情形，一旁的吳金桂連忙打電話給日本憲兵隊，剛撥通號碼，還來不及通話，就被趕到樓上的林懷部一槍擊中后腦，吳金桂只得和他師傅張嘯林一起踏上了黃泉路。林懷部又對著張嘯林的尸體補了幾槍，確信張嘯林已死后才飛步出門，剛到門口，就被沖上樓來的幾名保鏢攔腰抱住，林懷部面無懼色地把槍往地上一丟，振臂高喊：“大丈夫一人做事一人當。”從容就擒。

林懷部到案后聲稱他刺殺張嘯林完全是出于一時激憤，與軍統沒有任何關系。軍統特務頭目陳恭澍在他寫的《上海抗日敵后行動》一書中更是列出種種理由，否認林懷部與軍統特務有關系。他說當時軍統“上海區”所屬的八個行動大隊中，無論是真名還是化名，從來沒有林懷部這個人。

由于林懷部在被捕后不承認和軍統的關系，法租界巡捕房一時無法“定罪”，也沒將林懷部引渡給日偽。最后定為泄憤報復的普通刑事案，租界法院判了林懷部有期徒刑15年。1945年抗戰勝利，國民政府將他無罪釋放。

然而，在陳恭澍的《上海抗日敵后行動》一書中卻披露了這樣一些事實，張嘯林被殺后，陳恭澍曾經接到“第二大隊”的書面報告：由該隊所布置的內線，已經發揮作用，完成了任務。由此可以說明，林懷部正是由軍統特務安插在張嘯林身邊的內線，林懷部的殺張鋤奸行動也是由軍統精心布置的。

張嘯林一生都有一個做官的夢，但是一輩子也沒當過官，最終也是因為他的這個做官夢讓他喪了命。因為一直沒能和日本人達成協議，雖然他做了漢奸，但卻沒能當上一天漢奸官。