当时日本正在猛攻威海卫，由于军事上的胜利，日本的侵略胃口非常大，气焰极为嚣张，它觉得使清政府无条件投降的机会还未到来，因此借口“全权不足”，在广岛将清政府的这两位求和代表侮辱一番，驱逐回国。
同时，日本首相伊藤博文于1895年2月2日在驱逐张、邵二人时，通过清廷代表团中的伍廷芳向清政府提出了和谈的要求，并指名要恭亲王或李鸿章充当全权代表。
1895年2月17日，即日本攻陷刘公岛、北洋水师全军覆灭的当天，日本又通过美国人向清政府提出，必须以割地、赔款为“议和”条件，否则就无需派代表前往日本。
之前清政府已求和三次，其中两次派使被拒，这时清政府十分害怕战争继续下去，为了求得停战，决心不惜任何代价。慈禧太后在得知日本的要求后立刻召直隶总督兼北洋大臣李鸿章入京，任命他为全权代表赴日议和。
李鸿章入京以后，慈禧太后又称病不出，让光绪皇帝负责接见。在1895年2月22日的朝会中，光绪帝让李鸿章与众臣议论媾和之事，李鸿章坚决反对割地，翁同龢主张倘若可以回避割地，即便巨额战费赔偿，也可以忍辱负重。
大臣孙毓汶、徐用仪认为当前形势急迫，若回避日本割地条件，和平交涉将无法继续。文廷式还主张效仿俄国沙皇亚历山大一世迁都最终战胜拿破仑的故事，要求迁都再战，但很快被否决。李鸿章声称：“割地则不行，议不成则归耳！”
其后李鸿章又拜会各国公使，乞求干涉，但均无结果。李鸿章见割地已成定局，便于3月2日就割地一事上奏皇帝，要求“面谕训诲”，非要从光绪帝口中得到明确的割地的授权不可。光绪帝无奈，只好表示可以授予李鸿章“以商让土地之权”。
于是在1895年3月13日，李鸿章以头等全权大臣的名义，带着美国前任国务卿科士达为顾问，率100多名随员前往日本马关（今下关），与日本首相伊藤博文、外务大臣陆奥宗光进行谈判。1895年3月19日，李鸿章抵达日本马关，住在接引寺（古代为朝鲜通信使的住所）。3月20日双方在春帆楼（下关有名的日本料理旅馆，以烹调河豚闻名）会见，正式开启了和谈。
签约时期的场景、参赞官罗丰禄、参赞官伍廷芳、参赞官马建忠、参赞官卢永铭、参赞官罗庚龄为翻译官。日方参加谈判的有：全权办理大臣伊藤博文、全权办理大臣陆奥宗光、内阁书记官长伊东巳代治、外务书记官井上胜之助、外务大臣秘书官中田敬义、外务省翻译官陆奥广吉、外务省翻译官楢原陈政。
从1895年3月21日到24日中日双方进行了前三轮谈判。当时北洋水师虽全军覆灭，但是辽东战场争战方酣，而且日本在谈判前的3月16日成立了所谓“征清大都督府”，以参谋总长小松彰仁亲王为大都督，准备进驻旅顺，直捣北京，指挥“直隶平原作战”。
所以李鸿章要求议和之前先行停战，日方提出包括占领天津等地在内的四项苛刻条件，迫使李鸿章暂时撤回停战要求。李鸿章遂问及条款，日方决定在下一轮谈判中出示条款。伊藤博文在第三轮谈判中透露割让台湾岛之事，李鸿章答以英国将会干涉，伊藤微笑说：“岂止台湾而已！不论贵国版图内之何地，我倘欲割取之，何国能出面拒绝？”
总之，在前三轮谈判中，伊藤博文对李鸿章极尽羞辱之能事，而李鸿章则委曲求全，惟恐和议中梗。日方以酷苛的条件使中国方面自动撤回了停战的提议，达成了不停战而和谈的目的。
3月24日第三轮谈判后，李鸿章回‘接引寺’住所的途中突然遭日本人小山丰太郎枪击，造成李鸿章左眼下受伤。此次意外事件的发生使日本的谈判优势锐减，令日本政府极为狼狈，气急败坏，承认“由于此次凶变，帝国不得不立于甚为困难之地位，反之，清国却因此对各国得到最好的口实，清使或将立即归国。
而当其向各国哀诉时，各国将向彼表示同情，且难保不转而以其联合之压力抑制我方”。日本担心造成第三国干涉的借口，一方面由天皇、皇后亲遣医生和护士对李鸿章进行治疗并给予慰问，另一方面自动宣布承诺休战。李鸿章也没有像日本所担心的那样立即归国，而是继续谈判。3月30日，双方签订休战条约，休战期21天，休战范围限于奉天、直隶、山东各地。此时日军已于3月23日袭占澎湖，造成威胁台湾之势，停战把这个地区除外，保持了日本在这里的军事压力。
这一风波平息后，日方代表以胜利者的姿态，继续进行威胁和讹诈。美国顾问科士达则想方设法怂恿李鸿章赶快接受条件，以便从中渔利。在1895年4月1日举行的第四轮谈判中，日方提出十分苛刻的议和条款，要求中方在三到四日内答复，主要包括：
确认朝鲜独立；
中国向日本赔偿军费库平银三亿两；
中国割让台湾岛及其附属岛屿、澎湖列岛、辽东半岛给日本；
中国向日本开放北京、沙市、重庆、苏州、杭州、湘潭和梧州七处通商口岸；
长江、西江、吴淞江及运河等内河航行权范围；
日本驻军地点及所需军费。
李鸿章对日本的狮子大开口大为震惊，他一面奏报朝廷，一面对除“确认朝鲜独立”以外的条款进行逐条驳斥。
面对日本如此苛刻的条件，李鸿章当然不可能会同意。他要是同意了日本一开始的条件，那他就成为了民族罪人。等他回到北京，就是慈禧都不会放过他的。因为，一开始，日本的条件，简直就是在挖中国的心、和中国的血，想要将中国置于死地，想要将清朝置于死地！！！！
............................