李鸿章以衰年而膺艰巨，忧郁积劳，时病时愈，几以为常。（1901年）9 月 5 日又伤风感冒，“鼻塞声重，精神困倦。”9 月 7 日不遵医嘱，力疾前往西班牙公使馆，在《辛丑条约》上签字，返回寓所后，“寒热间作，痰咳不支，饮食不进，益觉委顿难堪。”清廷闻讯，赞许李鸿章“力疾从公”、“忠爱性成”，“著赏假二十日，安心调理，期早就痊”。李鸿章经过两旬静养，“诸病痊愈”，虽然身体软弱，“尚可力疾从公”，因而于 10 月 3 日奏报销假。李鸿章病情一经好转，就立即与俄国恢复谈判。俄国为了避免列强干涉，玩弄花招，要求在中俄两国政府间订立撤军条款，在中国政府与华俄道胜银行间订立“私方”协定，将东三省略矿及其他利益全部让归华俄道胜银行。10月 10 日华俄道胜银行驻北京代表波兹德涅耶、夫向李鸿章提出银行协定草案，坚持先订银行协定，然后再订撤：军条约。李鸿章看了这个银行协定草案后，“大发雷霆”，宣称：“协定把满洲全境交给银行支配”，这“无疑会引起别国人的抗议”，“他从来不敢对这种协定承担责任”，“他只能就矿产资源的租让权进行谈判”。10 月 14 日维特因不满李鸿章的所谓“口是心非的行动方式”，特地电告波兹德涅耶夫：如果李鸿章不老老实实地“在最近数日”签订协定，就“分文不给他”。10 月 30 日李鸿章到俄国使馆议事，俄使对之竭尽恫吓胁迫之能事，归后“呕血碗许”，从此病情恶化，经西医诊断，系“胃家小血营挣破”，即胃出血。11 月 6 日清廷发布谕旨，说李鸿章“为国宣劳，忧勤致疾，著赏假十日，安心调理，以期早日就痊，俟大局全定，荣膺懋赏，有厚望焉。”不料李鸿章一病不起，未及“荣膺懋赏”，就于 11 月 7 日离开了人世。遗折有云：

伏念臣受知最早，荣恩最深，每念时局艰危，不敢自称衰痛；惟冀稍延余息，重睹中兴，赍志以终，殁身难瞑。现值京师初复，銮辂未归。和议新成，东事尚棘，根本至计， 处处可虞。窃念多难兴邦，殷优启圣。伏读迭次谕旨，举行新政，力图自强。庆亲王等皆臣久经共事之人，此次复同更患难，定能一心勰力，翼赞讦谟，臣在九泉，庶无遗憾。

据李鸿章弥留之际在场的周馥忆述：“公临终时，两目炯炯不瞑。余抚之日：‘未了事，我辈可了，请公放心去。’目乃瞑，犹流涕，口动欲语，公伤也！”故周氏在感怀李鸿章诗中有“临终犹忆泪珠悬”句。据说，李鸿章死前倦念危局，还老泪纵横地吟成一诗：

劳劳车马未离鞍，临事方知一死难。
三百年来伤国步，八千里外吊民残。
秋风宝剑孤臣泪，落日旌旗大将坛。
海外尘氛犹未息，请君莫作等闲看。
忧思惶恐，悲凉凄怆，令人感叹！

李鸿章病危和逝世之时，慈禧正在回銮道经河南的途中。据随驾的吴永记述，慈禧在得到李鸿章病危的奏报后，“甚为厪念”，“为之流涕”，说什么“大局未定，倘有不测，这如此重荷，更有何人分担。”次日，传来李鸿章逝世的消息，慈禧“震悼失次”。随扈人员，“无不拥顾错愕，如梁倾栋折，骤失倚恃者。”吴永感慨系之，评论说：“至此等关键，乃始知大臣元老为国家安危之分量。”李鸿章之死，在当时朝野引起强烈震动是可想而知的。