1938年12月的一天，什錦花園駛進了幾輛小汽車，從車上下來幾個身穿便裝的日本人，領頭的是吳佩孚的老朋友岡野增次郎。此人過去擔任過吳佩孚的顧問，跟在他身后的便是接替土肥原的川本少將。川本對吳佩孚大加贊賞，并提出要拜吳為師的懇求，還以孝敬師母為名送給吳佩孚夫人一大筆錢。其實這是川本對吳實施的所謂“聯絡感情式”的拉攏方式。當時汪精衛已投靠日本，日本人提出了“汪主政，吳主軍”的方略，所以繼續對吳佩孚實施誘降。這次吳佩孚著急了，他連夜差人把錢退還了川本。川本見此計失算，就又打起吳佩孚身邊人的主意，但最終也沒有結果。最后川本親自出馬勸老師出山，吳佩孚卻說：“如欲和平，必須全面撤兵！”川本苦求說：“老師應該體諒弟子的苦衷，土肥原將軍因您拒絕出山而受到一生最大的挫折。如今，厄運又將落在弟子頭上，如果老師執意拒絕，弟子只有剖腹自殺，以謝天皇。”吳佩孚卻說：“承你錯愛，拜吾為師，卻不見你讀經問義，你我之間不過空有一層師生關系罷了。又何必以師徒之虛名相逼？”然后他又送川本一句孟子的話：“小國不可以敵大，寡國不可以敵眾，弱國不可以敵強。中國國大、人多，日本終必失敗，這就是我對中日戰爭最后的看法。”川本氣得只說了一句話：“大帥會后悔的！”后來日本人以死威逼，不想一到吳的家里，吳佩孚就請他們看一樣東西，原來是一具黑漆棺材，吳佩孚已經在上面刻上了自己的名字，只空了年月日。日本人利誘威逼均告失敗。

之后，日本人又讓汪精衛出馬說服吳佩孚，以實現所謂的“汪吳合作”。在日本的策動下，汪精衛先是給吳佩孚寫信，拉吳作漢奸。吳回信拒絕后，汪精衛又于1939年6月26日親自飛往北平，邀吳佩孚在鐵獅子胡同日本侵華軍參謀長山下奉文的公館里會晤。吳佩孚對報界稱：“吾與汪先生皆中國人也，如商國事，當相見于中國人住所。”拒絕汪的請求。汪精衛又提出在顧維鈞寓所會面。吳佩孚又以“在外面晤談不方便”為由，請汪“來敝舍會談”。其實他根本不愿與汪精衛會談。后來汪精衛又派陳中學上門去請，吳佩孚把桌子一拍，罵道：“誰跟汪精衛合作，這個人一定下賤！”

1939年底的一天。吳佩孚在吃餃子時，肉餡中的一根骨渣插進了牙縫，幾天后便腫了起來，疼得吳佩孚捂著嘴巴，呻吟不止。也有人說是吳佩孚無力擺脫日方糾纏，氣急交加，突患牙病的，總之吳確實為牙病所困擾。當時吳佩孚周圍惟一沒有被日本收買的是張伯倫。他是吳的秘書幫辦。12月4日他最后單獨與吳會晤，吳說：“死了的好，死了的好。”接著又說，“將來美日必有一戰。中國定可雪恥報仇。”由此可見吳佩孚至死仍然惦記著中國的抗日戰爭。下午3點鐘，川本和日軍醫處長石田，以及吳的朋友齊燮元、符定一等人驅車來到什錦花園，當時還有一隊日本憲兵，他們拒絕任何人進入什錦花園。吳佩孚看到川本時，表情非常憤怒。就在這時;石田拉開皮包掏出鉗子、鋼條等。然后用力撬開吳的嘴望了一下說：“要動手術把膿放出來。”吳夫人及其仆人極力阻攔也沒有結果，無奈吳夫人只好抱著吳的頭，其子抱著腳，石田掏出一把狹長銳利的手術刀。這時，吳的五姑爺張瑞豐見狀大喝道：“慢著！”川本氣勢洶洶地走過來問：“什么事？”張怒目問道：“為什么不打麻藥？”一句話提醒了吳的妻子，她也大聲抗議：“既然開刀，為什么不打麻藥？”石田苦笑著在皮包內翻了半天，才找出針劑，并給吳注射了一支，然后又撬開吳的牙齒。當時張瑞豐親眼看到，石田那把狹長鋒利的手術刀并沒有指向脹腫的牙齦，而是刺向了吳的喉嚨。只聽吳“啊”地一聲慘叫，鮮血從口里噴射出來。頃刻間，鮮血汩汩地向外流，吳佩孚怒視川本一眼，最后氣絕身亡。此時是1939年12月4日午后3時45分。

吳佩孚生前曾占卜自己62歲必死，如果不死可活百歲，但卻在66歲這年突然死去了。吳佩孚的死訊頃刻間傳遍了北平城，“大帥沒有屈服于日本人”，這感動了北平的老百姓，人們紛紛為吳佩孚送行。噩耗傳出，北平的日本占領軍和漢奸政權重重祭奠了這位不肯屈就的大人物，甚至連侵華日軍最高司令官也參加了公祭儀式，而華北淪陷區的各省市三日之內均下半旗志哀。在日本人與漢奸的假惺惺的鱷魚淚里，在蔣介石悲切的吊唁聲中，在家人與部下的號啕哭別聲中，北洋集團里的惟一儒將、性情倔強的吳佩孚魂歸蓬萊仙山，惟余他手書的那幅長聯在故宅正堂的墻上瑟瑟而泣：得意時清白乃心，不怕死，不積金錢，飲酒賦詩，猶是書生本色;失敗后倔強到底，不出洋。不入租界，灌園抱甕，真個解甲歸田。