1939年12月4日下午，日本特務川本少將，日本軍醫石田，大漢奸齊燮元和符定一，以及若幹護士衛隊，驅車來到吳佩孚的家。下午4時許，日本醫生石田不顧家人及部屬的阻攔，借口為吳佩孚治牙病，強行為吳佩孚開刀，造成“喉管切破，血流如注，一叫而絕身殉國”。目睹這一場麵的吳的妻子和侍從，認為是日本牙醫用手術刀戳穿吳的喉管而斃命。
判斷一個人的人格高下，不是在他生前，而是在他死後；不光要聽他生前好友部下的評價，而且要聽他敵人的評價；不光要聽一個敵人的評價，而且要聽所有敵人的評價。如果一個人死後，他的生前所有的敵人都對他肅然起敬，那麼這個人的人格肯定有非常值得稱道的地方。吳佩孚就是一個這樣的人。
吳佩孚下葬的那一天，是一九四○年十二月六日，北平城剛下過一場大雪，靈柩過處，路旁站滿黑壓壓的人群。沒有人說話，許多人的眼裏都噙滿了淚水。這是北平市民自發地為吳佩孚送行。那紙錢在空中回旋翻飛，漫天遍野。人們在為一個人招魂，在為“遺民”中堅持與堅守道統的北方老軍人蒼涼悲愴的情懷招魂。
吳佩孚去世後，北平的日本占領軍和偽政權立即隆重祭奠這位秉持民族大義、始終不肯屈就（偽職）的人，日軍侵華最高司令官也參加了公祭儀式，華北淪陷區的各省市三日之內均下半旗致哀。一位佩服他高風亮節的日本東京帝國大學教授送來一副挽聯，寫道:敗師不入外租界，正誼羞登傀儡場。
曾經與吳佩孚有過殊死搏鬥的國民黨（國民政府）在陪都重慶舉行了隆重的悼念儀式，追贈吳佩孚為一級上將（這對民國的軍人來說是一項至高無上的榮譽）。蔣介石親致唁電至北京吳公館。陪都的報紙上，更譽吳為“中國軍人的典範”。
因吳佩孚鎮壓京漢鐵路大罷工而與之結下血仇的共產黨，在吳去世後，也以一定的方式表示出哀悼之情。時駐重慶的中共元老董必武對記者發表談話，對吳佩孚做出中肯的評價。
另外還有許多他生前的政敵、軍敵，都對他的死表示出內心的哀悼，並對他的人格表示由衷的欽佩。
吳佩孚手下有一位師長，在吳死後，於其墓旁建成兩間陋室，自願充任守墓人，長年守護在這裏。後來他在附近村裏的一個學校當了工人，維持生計，仍住在陋室裏守墓。直到文化大革命來了，此人就不見了。幾十年如一日，居住在荒僻的墓旁茅屋，過著苦行僧式的生活，如果不是出於對墓中人的極度愛戴，任誰也是做不到的。