張作霖離京回東北，日本關東軍高級參謀河本大作已經為他布下“必死之陣”，在距沈陽一公里半的皇姑屯火車站附近的橋洞下放置了三十袋炸藥及一隊沖鋒隊。盡管張作霖行前曾接到部下的密報，說“老道口日軍近來不許人通行”，希望多加防備，張作霖也三次變更啟程時間，以迷惑外界，但他并未料到會有此殺身之禍。

1928年6月3日晚6時，張作霖離開北京大元帥府，乘坐由奉天迫擊炮廠廠長沙頓駕駛的在英國制的黃色大型鋼板防彈汽車，奔往火車站。隨行的有靳云鵬、潘復、何豐林、劉哲、莫惠德、于國翰、閻澤溥、張作霖的六姨太太和三兒子張學曾、日籍顧問町野和儀我等人。張作霖的專車22節，是清朝慈禧太后用過的“花車”，裝飾非常華麗，他乘坐的80號包車在中間，包車廂后是餐車，前邊是兩節藍鋼車，里頭坐著潘復、劉哲、莫德惠、于國翰等人。專車前面還有一列壓道車作前衛。晚上8時，專車從北京車站開出。深夜，列車風馳電掣地開到山海關車站，黑龍江督軍吳俊升專程在這里迎候。

1928年6月4日清晨，日本駐奉天總領事林久治郎很早就起了床，登上住房屋頂用望遠鏡朝三洞橋瞭望。5時23分，當張作霖乘坐的專車鉆進京奉(北京至沈陽)鐵路和南滿(吉林至大連)鐵路交叉處的三洞橋時，日本關東軍大尉東宮鐵男按下電鈕，一聲巨響，三洞橋中間一座花崗巖的橋墩被炸開，橋上的鋼軌、橋梁炸得彎彎曲曲，拋上天空，張作霖的專用車廂炸得只剩一個底盤。吳俊升炸得血肉模糊，頭頂穿入一個大鐵釘，腦漿外溢，當即死亡;張作霖被炸出三丈多遠，咽喉破裂;日籍顧問儀我滿面是血，抱頭大叫;校尉處長溫守善被埋在碎木下面;周大文炸破了手，六姨太太炸掉了腳趾頭;莫德惠也受了傷。

奉天省長劉尚清聞訊趕到現場組織救護。張作霖被送到沈陽“大帥府”時已奄奄一息，軍醫官搶救無效，于上午9時30分左右死去。死前張作霖對盧夫人說：“告訴小六子(張學良的乳名)，以國家為重，好好地干吧！我這個臭皮囊不算什么。叫小六子快回沈陽。”說完就死去了，時年54歲。炸車后不久，日本人先后制造了奉軍軍車脫軌事件和沈陽炸彈案，企圖引起混亂。6月16日，1萬8千余名日軍士兵又在沈陽城南演習，竟然唱著“南滿是我們家鄉”的歌曲，暴露其占領東北的圖謀。

為防止日軍乘機舉動，奉天當局決定對張作霖的死密不發喪，發表通電稱：主座“身受微傷，精神尚好”，“省城安謐如常”。大帥府邸依然燈火輝煌，煙霞陣陣。杜醫官每日仍按時到府上班，填寫病案。廚房每日三餐仍按時送飯進去。家人一律不啼哭，不戴孝。日方天天派人“慰問求見”，都被“婉言謝絕”。主持家政的五夫人濃妝艷抹，與前來窺探虛實的日本太太們從容周旋。同時，奉天當局下令全城戒嚴以穩定局勢。由于日軍不知道張作霖是否斃命，未敢貿然行動。直至張學良潛回沈陽，才于6月21日公布張作霖死訊。