3月4日，光绪正式发出了全权证书，宣布李鸿章为头等全权大臣，予以署名画押之全权。14日，李鸿章等人乘坐德国轮船“礼裕”、“公义”号，悬挂“中国头等议和大臣”旗帜，启程直奔日本马关。随从出访的有李鸿章嗣子李经方，随员伍廷芳、马建忠，以及美国顾问、前国务卿科士达等。航行在大海之上，李鸿章的心情尤其复杂，此去东瀛，算是赴一场名副其实的“鸿门宴”，国恨家仇，着实难堪。头顶上太阳闪烁着白光，强烈而灼热，对于李鸿章来说，这样的阳光太残酷了，仿佛剥光了他所有的一切；海水是平静的，可对于李鸿章来说，那寥廓无边的深蓝底下，是无边无际的耻辱……李鸿章就是在这样的伤心绝望的情绪中，来到了日本马关。
在那段时间，位居太平洋当中的日本列岛，一直洋溢着节日的气氛。一个“蕞尔小国”终于战胜了泱泱的大清，当然要举国欢腾。日本报纸把这场戏剧性的胜利比喻成2000多年前越王勾践对吴王夫差“卧薪尝胆”的复仇。对于中国的文化和历史，这个岛国一直耳濡目染，熟悉得甚至胜过自己的历史。这么多年来，这个飘摇在海洋中的岛屿国家一直没什么喜事，他们终日小心翼翼，委曲求全；而现在，他们终于以一场大胜扬眉吐气了。几乎每个日本城市的街道边，都悬挂着各式各样的标语和横幅，每天早晨或傍晚，很多人都自发地聚集在一起，举行一场游行庆贺一下，他们当中，有的吹着喇叭，有的吹着号角，更多的人则是在呼着乱七八糟的口号。有时，他们也排列着各种各样的方阵——马车方阵上，有身着节日装束的神父、欣喜若狂的孩子、市议会的议员；花车上，有人用竹竿挑着纸糊的或柳条编成的人头，那代表被斩首的中国人。繁闹的狂欢中，也有很多事故产生：酗酒打架时有发生，一些浪人更是趁火打劫，偷窃钱财，甚至调戏良家妇女……总而言之，在那段时间里，整个日本都在进行着一场狂欢，一些稀奇古怪的事情也在这样的狂欢中上演了。
马关，这个无足轻重的小地方，更是狂欢的焦点。此时，马关已成为清国和日本，甚至包括西方列强关注的中心。当马关成为日本和清国谈判地点的消息传出之后，有很多日本人从四面八方专程赶到这里，他们当中有记者，有贵族，而更多的，则是各界平民。他们和当地人一起，每天守候在清国使团来来往往的路上，举着国旗，呼着口号。然后，他们就从报章上寻觅一切有关谈判的消息。他们关心着谈判的进展，关心着自己国家的命运，也关心着那个从清国来马关的首席谈判大臣的一言一行。
在马关，李鸿章经历了人生当中最耻辱的时光。当李鸿章在半个多月后带着赔偿、割地、枪伤以及耻辱离开这块土地时，他曾发誓决不踏入这块土地，并陷入了长久的孤独和愤懑之中。对于个人所发的誓言，李鸿章做到了——一年之后，当李鸿章环游欧洲列国再次途经日本换船时，李鸿章死活也不肯上岸，只是在两船之间搭一个木板，然后在别人的搀扶下颤颤巍巍地走了过去。
李鸿章只能以这样的方式表达着他的愤懑。这样的誓言，看起来坚固无比，但实际上，却是那样的单薄脆弱，这样的做法，与其说是沉毅、坚韧和顽强，倒不如说是一种对刻骨铭心耻辱的无奈和逃避。
马关议和之地春帆楼，本是日本医生藤野玄洋于1862年开办的诊所。春帆楼地处高地，风景秀丽，附近有一处温泉可供休养。藤野玄洋医生死后，其女美智子不通医术，但独具慧眼，在这里开办了一家河豚料理店。春帆楼的名字，还是伊藤博文取的。年轻时，伊藤博文就经常在马关一带活动，经常光顾美智子的河豚料理店。担任内务大臣后，伊藤也经常来这里，有一天，食至兴起的伊藤博文从楼上远眺关门海峡，见到不远处的大海碧波荡漾，阳光下片片渔帆闪亮，伊藤博文联想到自己别号春亩，不由兴致大发，喊来老板，将店名改为“春帆楼”。伊藤博文选定“春帆楼”作为中日谈判地点，显然，他就是想在这个诗情画意的地方，轻松地吃下清国这条鲜美的“河豚”。
1895年3月20日午后2时半，李鸿章一行登上春帆楼。春帆楼上，放着一长方形会议桌，旁边，摆放着10多把椅子。日方还特别在李鸿章的座位边安置了一只痰盂，大约是有意无意地提醒着大家，这位清国全权大臣已值暮年，垂垂老矣。伊藤博文为谈判颁布了四条规定：一是除谈判人员外，任何人不得进入会场；二是各报报道必须要经新闻检查后方可付梓；三是除官厅外，任何人不得携带武器；四是旅客出入，均必须由官厅稽查。此外，伊藤博文还特别宣布：清政府议和专使的密码密电，均可拍发，公私函牍概不检查。从表面看上去，好像日本人对李鸿章和清国使团非常客气，其实，日本人已成功破译清廷的密码，而且，在谈判过程中甚至了解到清国使团此次来日本的赔款底线是2万万两白银，因此早就成竹在胸。
3月21日，在与李鸿章的首次谈判中，伊藤博文向李鸿章提出的停战条件是：日军占领大沽、天津、山海关一线所有城池和堡垒，驻扎在上述地区的清朝军队要将一切军需用品交与日本军队；天津至山海关的铁路由日本军官管理；停战期间日本军队一切驻扎费用开支由清政府负担等等。伊藤博文明白，山海关、天津一线如果被日军占领，将直接危及北京安全。这个停战条件是清政府万万不会答应的。如果这一停战条件被清政府驳回，日本正好就此再战。
尤其狡猾的是，伊藤博文此时隐藏了日军正向台湾开进的事实，企图在日军占领台湾既成事实后，再逼李鸿章就范。
春帆楼上，中日两国代表唇枪舌剑，谈判僵持不下。恰在此时，一桩突发事件改变了谈判的进程。
3月24日下午4时，中日第三轮谈判结束后，满腹心事的李鸿章步出春帆楼，乘轿车返回驿馆。谁知，就在李鸿章乘坐的汽车快到驿馆时，人群中突然窜出一名日本男子，在卫兵未及反应之时，朝李鸿章脸上就是一枪。一时间，现场大乱，行人四处逃窜，行刺者趁乱潜入人群溜之大吉，躲入路旁的一个店铺里。
李鸿章左颊中弹，血染官服，倒在血泊之中。随员们赶快将其抬回驿馆，由随行的医生马上进行急救。幸好子弹没有击中要害。过了一会，李鸿章苏醒过来。一个人潜在的力量只有在遭遇危险时才能激发出来，而他的潜能也因而得以呈现。李鸿章毕竟经历过大风大浪，面对此突发事件，异常镇静，除了安慰随行外，不忘叮嘱随员将换下来的血衣保存下来，不要洗掉血迹。面对斑斑血迹的官服，73岁的李鸿章算是找到了一点安慰，他一声长叹：“此血可以报国矣！”
李鸿章的伤口在左眼下一寸的位置。子弹虽然留在了体内，但并没有伤到眼睛。德国驻日公使馆的医生赶来为他看病。各国医生会诊之时，日本医生建议开刀，但德国和法国医生坚决反对。理由是既然这颗子弹对李鸿章眼睛的正常工作无害，不如暂时留在体内，如果贸然开刀，将会危及李鸿章的性命。
李鸿章在日本遇刺引起了国际社会的强烈关注，各国纷纷谴责日本这种不顾外交人员安危的行为，日本一时显得非常被动。行刺事件发生后，马关警方很快抓到了凶手。经审讯，此人名叫小山丰太郎（又名小山六之介），21岁，是日本右翼团体“神刀馆”的成员。他不希望中日停战，更不愿意看到中日议和，一心希望将战争进行下去，所以决定借刺杀李鸿章，挑起中日之间的进一步矛盾，将战争进行到底。小山六之助的想法与日本政府此时的意图大相径庭。日本政府本来拟就的谈判方略是借战争逼迫清政府签订不平等条约，然后见好就收。伊藤博文最担心的是虎视眈眈的西洋各国借机挑起对日本的战争，坐收渔翁之利，趁火打劫，毕竟，日本也在甲午战争中耗尽了力量，而小山丰太郎的行为恰恰无异于授人以柄。难怪伊藤博文闻讯后气急败坏地发怒道：这一事件的发生比战场上一两个师团的溃败还要严重！日政府没办法，只好答应“无条件停战”。
4月10日，李鸿章伤势稍好转之后，中日双方又就甲午战争展开第五次谈判。中国的和约修正案送达日方。由于李鸿章的伤势渐愈，亲自参加了会议。
陆奥宗光因病未能出席。中方出席人员有李鸿章、李经方、伍廷芳、马建忠、罗丰禄。日方出席人员有伊藤博文、伊东巳代治、井上胜之助、中田敬义、陆奥广吉、楢原陈政。
双方握手后，入座，寒暄数语。
伊藤博文：“李伯爵阁下出乎意料地迅速痊愈，今日光临此会，实感欣幸。”
李鸿章：“敝人所以出乎意料地迅速康复，完全由于贵国两陛下圣恩，特派名医治疗所致。在深表谢意同时，敬谢两阁下之特殊关照。”
伊藤博文：“阁下如此迅速痊愈，主治医生亦有大功。”
李鸿章：“确实如此。听佐藤总监说，陆奥外务大臣身体违和，热度甚高，现已减轻否？”
伊藤博文：“陆奥子爵患流行性感冒，昨日热度甚高，今日仍未痊愈，令人挂念。”
李鸿章：“想已服用解热药，尚未奏效？”
伊藤博文：“较昨夜略有好转。”
李鸿章：“食欲减退否？”
伊藤博文：“减退甚显。”
李鸿章：“热度高时，食欲即不振。”
伊藤博文：“四周前，敝人曾患感冒症，幸平素健壮，迅速康复。”
李鸿章：“阁下健壮如铁，理应迅速康复。”
伊藤博文：“敝人双亲今犹健在，尤以家严年逾八旬，仍然矍铄。”
李鸿章：“实令人钦羡不已，不知现居何地？”
伊藤博文：“现居东京，该地乃敝人故乡。”
李鸿章：“阁下系长门人，敝人素有所闻。距此地遥远否？”
伊藤博文：“不远，仅二十公里。”
李鸿章：“敝人经常研究贵国知名人士出生地，得知萨摩和长门之人甚多。”
伊藤博文：“我长萨二国，犹如贵国之湖南、安徽。”
李鸿章：“是。湖南如萨摩，安徽如长门，（微笑）而现在安徽败于长门。”
伊藤博文：“说长门战胜了安徽，此说不当，（微笑）其实是日本战胜了中国。”
李鸿章：“如易地而处，若敝人居贵大臣之位，恐不能完成阁下成就之一半。”
伊藤博文：“否！若易地而处，则政绩当更可观。”
李鸿章：“阁下为贵国所作之贡献，皆系本大臣所愿为，但如易地而处，在我国当前形势下，恐亦深感极难办理。”
伊藤博文：“树大招风，凡在高位，均有难办之事，忌者甚多，敝国亦不可说绝无其事。”
李鸿章：“但贵国上有英明睿智之君主，复得贤相之辅弼，采纳献可替否之谏言，呈现野无遗贤之景象。国中才能出众之人，齐集于朝廷，各遂其志，各安其所。敝人耳闻目睹贵国之长足进步，实不胜钦羡。”
伊藤博文：“当今皇帝陛下，大政维新时虽尚在冲龄，但天资聪颖，重用贤才，知人纳谏，万机亲裁，破除旧习，施日新月异之开明新政。”
李鸿章：“正因如此，方能使举国贤能云集于朝，专心致志，报效国家。”
双方寒暄一段时间之后，转入正题。话题转过来之后，伊藤的口气显得很冷酷，李鸿章刚坐下来，伊藤就无理地提出要求：“中堂只能回答允、不允两句话。”
李鸿章：“难道不准分辩？”
伊藤博文：“可以，但是不能减少。”
李：“既知我国为难情形，则所求者，必量我力之所可为。（进行实质性话题）”
伊：“减到如此，不能再减。再战则款更巨矣。（清国的弱势，是李鸿章无法在谈判中取得主动权的根本所在。）”
李：“赔款如此，固不能给，更巨，更不能给。还请少减。”
伊：“万难再减。此乃战后之事，不能不如此。（强硬态度毕现。）”
李：“中国战后声名颇减。”
伊：“中国财源广大，未必如此减色。”
李：“财源虽广，无法可开。”
伊：“中国之地十倍于日本，中国之民四百兆，财源甚广，开源容易，国有急难，人才易举，即可用以开源。”
李：“奏如不允，尔不能去，尔当设身处地将我为难光景细为体谅。果照此数写明约内，外国人必知交将借洋债方能赔款，势必以重息要我。债不能借，款不能还，失信贵国，又将复战，何苦相逼太甚！”
伊：“借债还款，此乃中国之责！”
李：“不能还则如之何？”
伊：“已深知贵国情形为难，故减至此数，万难再减。”
李：“总请再减。”
伊：“不可减矣。”
李：“总之，现讲三大端，二万万为数甚巨，必请再减；营口还靖退出；台湾不必提及。”
伊：“如此，我两人意见不合，我将改定约款交阅，所三只能如此。为时太促，不能多办。照办固好，不能照办，即弃驳还。”
李：“不许我驳否？”
伊：“驳只管驳，但我主意不能稍改。贵大臣固愿速请定和约，我亦如此。广岛有六十余只运船停泊，计有二万吨运载，今日已有数船出口，兵粮齐备。所以不即出运者，以有停战之约故耳。（威胁）”
李：“停战期满，可请展期。”
李：“赔款还请再减五千万，台湾不能相让。”
伊：“如此，当遗兵至台湾。”
李：“我两国比邻，不必如此决裂，总须和好。”
伊：“赔款，让地，犹债也。债还清，两国自然和好。”
李：“索债太狠，虽和不诚。前送节略实在句句出于至诚，而贵大臣怪我不应如此说法，我说话甚直，台湾不易取，法国前次攻打尚未得手，海浪涌大，台民强悍。”
伊：“我水师兵弁不论何苦皆愿承受，去岁北地奇冷，人皆以日兵不能吃苦，乃一冬以来我兵未见吃亏，处处得手。”
中堂起席，与伊藤作别，握手时再请将赔款大减，伊藤笑而摇首云不能再减而散。
在谈判过程中，李鸿章还开玩笑地提及要聘请伊藤博文当任清国宰相。
李鸿章：“（微笑）愿向我国政府建议，礼聘阁下为敝国宰相如何？”
伊藤博文：“（亦微笑）敝人一身已献给我国天皇。如蒙陛下恩准，不拘何时，亦不拒绝为贵国竭尽微力。”
李鸿章：“如贵国皇帝陛下恩准，阁下能否应我国之礼聘？”
伊藤博文：“博文之区区一身，既已属于我皇帝陛下，如陛下不允，亦无可奈何，敝人或进或止唯皇帝陛下之命是从。如陛下恩准，敝人将不避艰难，舍身为贵国效力。”
1895年4月17日，李鸿章与日本代表签订了丧权辱国的《中日马关条约》。
条约规定：清政府承认朝鲜“独立自主”；割辽东半岛、台湾、澎湖列岛及附属岛屿给日本；赔偿日本军费白银二亿两；增开重庆、沙市、苏州、杭州为通商口岸；开辟内河新航线；允许日本在中国的通商口岸开设工厂，产品运销中国内地免收内地税。
李鸿章在这份条约上签字的手，一定是颤抖无力的。在草约上签字的时候，李鸿章突然想起了他临行前恭亲王率领全体军机入奏皇帝的奏折上有这样一句话：中国之败全由不西化之故，非鸿章之故。听着这句话，李鸿章当然差一点老泪纵横。
1895年之后，李鸿章像被水淹过的一座土山一样坍塌了，在此之前，这座山峦曾经气冲霄汉，巍峨矗立。从某种意义上说，李鸿章犹如一个赌徒一样，输掉了自己毕生的积蓄。但李鸿章还是克制住自己巨大的悲伤，像一个职业外交家一样，尽力用外交弥补自己的过失。而后，他把自己封闭在冷静的沉默中，就像一只受了伤的老虎，一边舔着自己的伤口，一边思考着对策，隐忍，等待，梦想着伺机一击。只可惜，李鸿章没有等到出击的那一天。以后的日子更加阴晦，在他面前的，是更多的麻烦和郁闷；是寒冷，那仿佛来自极地之侧的冰寒。
