西夏曾是宋朝藩國，后來，李繼遷任西夏王，不但反叛宋朝，而且騷擾邊境，致使宋夏戰火連綿。一次戰斗中，前線將士意外俘獲了李繼遷的母親，邊將趕快報告宋太宗，并請示如何處置其母。當時，寇準任樞密副使，負責軍機，宋太宗因此叫寇準過去商量，最后決定對李繼遷母親就地正法，以報擾邊之仇、雪反叛之恨。寇準商量完出來，準備去發布命令。當他路過呂端的辦公地時，呂端看到寇準行色匆匆，一慣謹慎的他，感覺到前線肯定有大事，趕緊叫住寇準，細問端詳，聽說要斬首李母，他忙叫寇準暫緩發布命令，等待他向宋太宗匯報溝通后再說。

呂端急速入宮拜見宋太宗說，當年項羽捕獲劉邦之父，項羽揚言要殺劉太公時，劉邦竟然無恥地說：愿分我一杯羹。這說明，凡舉大事者，危急關頭，常常是連至親也顧不上的，何況像李繼遷這樣的的悖逆之人？今天殺其母，明日就能捕獲李繼遷嗎？如果不能，殺其母，不過是加深了對方的仇恨，堅定了對方反叛的信念罷了。宋太宗一聽，驚出一身冷汗，忙問應該如何處置。呂端建議，把李母安置在前線延州(今陜西延安)，好生贍養，以此招降李繼遷。宋太宗恍然大悟，連連稱善，還說，倘若不是你及時提醒，真的誤了大事我還渾然不覺呢！后來，李母善終于延州，不久李繼遷去世，李繼遷的兒子因為宋朝善待其祖母，便歸順了宋朝。這一事件的始末和結果，再次證明了呂端的深謀遠慮和沉穩謹慎。

最能體現呂端的過人之處，還是在他牽頭處理改朝換代這一驚心動魄的大事上。皇帝駕崩，朝局就有變，權力就有爭，這是權力更替的“綜合癥”，常有的事。宋太宗選擇皇位繼承人，因長子趙元佐既瘋，次子趙元僖既逝，便選擇了三子趙恒，這為宮廷斗爭埋下了伏筆。宋太宗一過世，因為趙元佐依然在世，朝廷大臣便開始各為其主而針鋒相對，最后甚至磨刀霍霍了。太監王繼恩牽頭，組織參知政事李昌齡、殿前都指揮使李繼勛、知制誥胡旦等一班實力派，決定擁立已經被宋太宗貶為庶人的趙元佐，理由是他是宋太宗長子，廢幼立長，名正言順。

眼看就要兵戎相見，流血五步，皇后李氏趕緊安排王繼恩快步流星去請呂端來拿主意。這里，李皇后使了個小計謀，沒安排其他太監去請呂端，單單安排“造反頭子”王繼恩親自去請，其用意不言自明。呂端一聽宋太宗去世，皇后有請，知道情況有變，當機立斷，讓身邊人趕緊把王繼恩扣押，專人看管，同時跑步入宮。呂端到達后，皇后正淚眼婆娑，一臉茫然不知所措的樣子。她對呂端說，如今皇帝剛剛駕崩，大臣們要立長子，你說如何是好？呂端鎮定自若地說，當時皇帝確定壽王(趙恒)為太子，就是為了今天能繼承大統，如今先帝尸骨未寒，怎么能違背他老人家的遺愿呢？他一邊耐心說服其他大臣，一邊讓人把太子趙恒侍奉到宋太宗的棺材前，明確其為皇位繼承人，是為宋真宗。

趙恒登基后，第一次坐殿召見諸位大臣時，因為垂著簾子，呂端擔心宦官們以趙元佐冒充趙恒，便站在殿下不拜，請求皇帝卷簾。趙恒卷簾后，呂端走上前去仔細辨認，確認是趙恒后，才走下臺階，率領群臣跪拜新皇帝。隨后，宋真宗與呂端商量，對陰謀另立趙元佐為皇帝的幾位大臣，一一做了處置，以李繼勛為使相(宋初以皇親國戚、留守﹑節度使等加侍中﹑中書令﹑同平章事者皆稱使相)，安置于陳州(今河南淮陽);貶李昌齡為忠武軍司馬;貶王繼恩為右監門衛將軍，安置均州(今湖北丹江口);胡旦處理最重，被朝廷除名，流配潯州(今廣西桂平)。趙恒在老成持重的宰相呂端的精心安排下，登上了皇位，成為了宋朝第三位皇帝。繼位之爭，終于沒有釀成同室操戈的苦果，就此來說，呂端功莫大焉。

宋真宗繼位后，每當接見大臣，對呂端都是恭恭敬敬，而且從不直呼其名。因為宮前階梯高，呂端體胖身高，行動不便，“特令梓人為納陛”，即在宮前制作較矮的木階梯，給予特別優待和照顧。不但繼續請呂端擔任宰相，而且不斷加官進爵，連加其右仆射、監修國史、太子太保等。呂端退休后，宋真宗時時派人問候賞賜。咸平三年(1000)，呂端因病去世，享年六十六歲。呂端去世后，宋真宗不但為其蔭妻封子，還贈司空，謚號正惠，呂端實現了高位善終，得到了一個做大臣的最高禮遇。