镇南关—谅山大捷，令左宗棠和全国人民都欢欣鼓舞。但是，中法战争——中国以战场的胜利，却换来了屈辱的和约。这项条约不仅不敢抗议而且公然承认法国占领越南、打开中国西南门户，使法国人得以长驱直入。这项屈辱的条约是在战场上取得了胜利之后签订的，真是世界外交史上的奇闻！中法和约的签订，是对左宗棠的一个重大的打击。他闻此讯后，悲愤的心情是难以言喻的，但回天乏术，徒呼奈何！
左宗棠以古稀之年，多病之身，来到抗法前线，全凭着一股爱国热忱。而今战事已经结束了，屈辱的条约已签订了，投降派不但不以为耻，反而气焰嚣张。他的两员抗法部将都遭到不白之冤，种种事实无不使他痛心疾首。他原是奉命来闽督办福建军务、抵抗法军侵略的，现在战事已了，留在福建没有必要了；加之他的身体也愈来愈坏，精神上的打击更使他疲惫不堪。五月初七日，即中法条约签订后10天，他上疏请求回京复命，并恳求开缺回家治病。朝廷赏假一月，仍然未准许开缺。
在风烛残年之际，左宗棠最为关注的是两件大事：其一为筹划海防全局；其二为促成台湾建省。尽管他所剩的时间已经无几，但他在这两方面都作出了光照史册、影响及于后世的重大贡献。
关于筹划海防全局，是左宗棠海防思想的重大发展。左宗棠是中国近代海军和海防事业的开拓者之一。如前所述，他于1866年（同治五年）创办的福州船政局，是清政府经营的规模最大的机器造船厂；该厂附设的求是堂艺局，则是中国最早的海军学校。他一贯重视海防建设，即使在总督陕甘、督师西征期间，他也认为：“东则海防，西则塞防，二者并重。”中法战争时，福州船政遭到法军的破坏，他“补牢顾犬”，奏请拓建福州船政局，兴工铸炮，并试办穆源铁矿等，表现了对海防安危强烈的关心。而今，中法战争已告结束，但是，当他闻知法国新造“双机钢甲兵船”时，立即会同署船政大臣裴荫森等奏请仿造，“以壮军心而坚和局”，并强调说：“欧洲大局已成连横之势，中国若再拘于成见，情形岌岌可危。除制炮造船、教将练兵，别无自强之道。”
1885年6月21日（光绪十一年五月初九日），清政府发布上谕：“现在和局虽定，海防不可稍弛，亟宜切实筹办善后，为久远可恃之计。”
7月29日，左宗棠在《复陈海防应办事宜请专设海防全政大臣折》中，他首先指出：“近十余年来，中国船政局、制造局、水师学堂次第兴设，虽造诣未精，而规模亦已粗具”；“就目前言之，中国水师诚不及外夷之整练，然华人耳目心思，西人亦服其颖悟，但使在上者实力讲求，师彼之长，行且制彼之命，岂仅足自固哉？”对于前署湖广总督卞宝第提出的在江西鄱阳湖口设立机器局制造船炮的建议，他表示支持：“请敕下江、楚督抚臣，派员测量，斟酌议行”：局厂未成前，其后膛大炮，“或饬江南、广东各机器局先行试造，以免旷误”。
关于主持海防的军政机构和统帅人选，左宗棠说：
今欲免奉行不力之弊，莫外乎慎选贤能，总持大纲，名日海防全政大臣，或名日海部大臣。凡一切有关海防之政，悉由该大臣统筹全局，奏明办理。畀以选将、练兵、筹饷、制造船炮之全权。特建衙署，驻扎长江，南控闽、粤，北卫畿辅。该大臣或驻署办事，或周历巡阅，因时制宜，不为遥制。另择副臣，居则赞裹庶务，出则留守督工，权有专属，责无旁贷。庶成效可立睹矣。唯此大臣任大责重，必品望素著，深通西学，为中外所倾服者，始足当之。
在加强海防建设的具体措施方面，他依据当时情况，提出了七条，略述如下：
1.“师船宜备造”。铁甲舰、快船、炮船、鱼雷艇、粮船、小轮、舢板各船，“不唯求备，更应求精”。“总计中国海滨万有余里，至少须练海军十大军，每军铁甲数艘之外，尤必各船皆备，临战之时，庶足应敌。”
2.“营制宜参酌”。沿海水师，“应归海防大臣统辖。每军设统领一员，秩比提督；帮统一员，秩比总兵；管带以下，秩比副、参、游有差。凡一切升迁调补，皆由海防衙门奏办。各疆臣只节制守口陆师，非军务万紧，不得调遣海军兵船”。
3.“巡守操练宜定例”。海军既备镇守，又须时常巡历操练。“拟将十军内，以八军分布天津之大沽，宁古塔之珲春，山东之烟台，江南之崇明，浙江之镇海，福建之闽口及台、澎，广东之虎门、琼州，各驻一军”，兼顾附近之汕头、厦门、镇江、北坛等处，“朝夕操演”，彼此互相替换，每四个月轮换一次，合操一次。“其余二军，一巡历东洋，一巡历西洋，亦如各国驻华兵轮，为保护商人之计，兼借以练习风涛沙线，并访水土民情与夫各国形势、博物、制造等事”，以一年为期，期满归守口，“将守口者挑换两军出洋”。
4.“各局宜合并”。矿政、船炮相为表里。海防全政大臣设立后，“即将福建船政差使撤销”，徐州、穆源各矿及各省制造局“亦概归该大臣统筹办理，以归划一”。
5.“经费宜通筹”。主张裁兵、加洋税，定海军衙门常年经费；并令各省按年匀摊协济，交海防大臣支用。
6.“铁路宜仿造”。铁路关系商务、军事，“一经告成，民因而富，国因而强，人物因而倍盛，有利无害”。宜先设清江浦至通州铁路，“以通南北之枢，一便于转漕，而商务必有起色；一便于征调，而额兵即可多裁”。待办有成效，“再行添设务支”，而“推广于西北一路，尤为日后必然之势”。
7.“士气宜培养”。道、艺出于一源，艺术亦可得人才。水师官兵，应“大开学堂”培养；“一切格致、制造、舆地、法律，均为以术运经之事，尤应先倡官学，酌议进取之方，广译洋书，劝导士民自相师法。”
显然，这与左宗棠晚年入值军机，总督两江兼任南洋通商事务大臣和督办福建军务的实践有关，并体现着他对反侵略战争历史经验教训的总结。这是一幅规划全国海防全局的完整蓝图，既提出统一和加强领导，又包括具体措施的设计。尽管稍后总理衙门在遵旨复议中，对他所提出的各项具体措施有所损益取舍，如认为“骤设十大军，一时无此力量”，计划“先在北洋倡练海军，钦派大臣自宜就近经理”等；然而，其中关于专设大臣，统筹全局的思想和方向，毕竟被肯定和采纳了。就在左宗棠的这份奏折上达两个月之后，1885年10月12日（九月初五），清政府设立总理海军事务衙门，派醇亲王奕譞总理海军事务，所有沿海水师悉归节制调遣。从而，在统一海军指挥权、加速海军近代化建设中，迈出了重要的一步。
1885年9月3日，左宗棠忽然“得患腰痛，起坐维艰，手足瘛癜，热痰上涌，气弱病深”。9月5日凌晨，他离开了人世。其时，距他上奏《请专设海防全政大臣折》和《台防紧要请移福建巡抚以资镇慑折》仅38天。他正待有所作为，却遽尔逝世，抱恨终天！
左宗棠临终前，满怀悲愤和遗憾之情，口授遗折，由其子孝宽笔录，缮交福州将军穆图善、陕甘总督杨昌濬，转奏于清廷。遗折中写道：
伏念臣以一介书生，蒙文宗显皇帝特达之知，屡奉三朝，累承重寄，内参枢密，外总师干，虽马革裹尸，亦复何恨！而越事和战，中国强弱一大关键也。臣督师南下，迄未大伸挞伐，张我国威，怀恨生平，不能瞑目！渥蒙皇太后、皇上恩礼之隆，叩辞阙廷，甫及一载，竟无由再觐天颜，犬马之报，犹待来生。禽乌之鸣，哀则将死！方今西域初安，东洋思逞，欧洲各国，环视眈眈。若不并力补牢，先期求艾，再有畔（衅）隙，愈弱愈甚，振奋愈难，求之今日而不可得！伏愿皇太后、皇上于诸臣中海军之议，速赐乾断。凡铁路、矿务、船炮各政，及早举行，以策富强之效。
然居心为万事之本，尤愿皇上益勤典学，无怠万机，日近正人，广纳谠论。移不急之费，以充军食；节有用之财，以济时艰。上下一心，实事求是。臣虽死之日，犹生之年。
可见，在左宗棠最后的奏折中，一方面表达了自己壮志未酬、怀恨生平的悲哀，一方面也向清王朝最高统治者作了最后的、至为恳切的规劝。折文感情诚挚激越，言词悲壮有力，强烈的爱国主义情怀，跃然纸上，感人心肺！他劝告统治当局，振奋精神，“并力补牢，先期求艾”；及早举办铁路、矿务、船炮各政，“以策富强之效”。他特别规劝最高统治者，努力学习，勤理政事；“日近正人，广纳谠论”；整理财政，以“充军食”、“济时艰”；“上下一心，实事求是”。应该说，这些都是切中时弊的，是符合振兴中华的需要的。可惜腐朽的清王朝统治者，未能切实加以办理，以致国家照旧衰败下去。
据说，左宗棠处于昏迷状态了，突然苏醒了过来，这明显是回光返照。他眼前似乎出现一道光明，恍惚回到柳庄门前，正和夫人、全家为灾民施粥施药，眼望着灾民一群群走过去，心头充满着同情和叹息；忽然又回到了那间梧桐塘书屋，白发苍苍的祖父在教他咿咿唔唔地念书；忽然他又回到了空旷寂寥、风沙弥漫的西征路上，远望着白雪皑皑的天山山脉，回忆湘江夜晤时林公的谆谆嘱托……然而，一刹那一切都过去了，眼前又是一片昏暗，病榻前儿子和亲人们听见他低声喃喃自语：
“娃子们出队，孤拔去！”
“哦哦！出队！出队！我还要打。这个天下，他们不要，我从南边打到北边，从西边打到东边，我要打……”
慢慢地，声音越来越低……终于，那双目光炯炯的眼睛阖上了，他停止了呼吸，告别了曾经生活、战斗了73个年头的人世。
左宗棠逝世的消息传出之后，福州全城百姓，无不扼腕深嗟，皆谓“朝廷失一良将，吾闽失一长城”。“江、浙、关、陇士民闻之，皆奔走悼痛，如失所亲”。
朝廷得知左宗棠辞世的消息，并得到遗疏后，皇上震悼，当即发布谕旨，高度评价左宗棠的生平业绩，追赠太傅，照大学士例赐恤，加恩予谥“文襄”。清朝廷在左宗棠生前重用他，死后也倍加恩恤。照例未中进士、入翰林者，逝后谥号不能用“文”字，谥以“文襄”是特恩。左宗棠的儿孙也一一受赐恤，其子孝宽赏给郎中，孝勋赏给主事，孝同赏给举人。
1885年10月14日，举行御祭，朝廷派来的特使、新任福州将军古尼音布代行御祭，备极荣哀。15日，左宗棠灵柩送回湖南原籍。
11月11日，左宗棠灵柩运抵湖南省城长沙，各界人士纷纷前往致吊。当时，长沙有一位青年士子余肇康，特写了一副长篇挽联，寄托哀思。联云：
公学备经济文章，而莫邃于舆地；公勋在闽杭关陇，而莫壮于戎疆；公品齐李郭范韩，而莫肖于诸葛。上下二百余载，几见伟人？论中兴功，除却曾湘乡、胡益阳，更谁抗乎？
其出山非有荐牍，以投效结主知；其入阁不由甲科，以奇猷协枚卜；其乞身仍许封侯，以退食预机宜。寿考七十四年，迭膺殊遇。数未了事，惟此鄂（俄）罗斯、法兰西，莫副初衷。
此联全面地概括了左宗棠的学识、人品、经历、勋业和所受荣宠，也写出了他壮志未酬的遗恨。又据记载，时任两江总督的曾国荃，也有《挽左文襄》联云：
幕府封疆，书生侯伯，孝廉宰辅，疏逖枢机，系天下安危者二十年，魂魄常依帝左右；湖湘巾扇，闽浙楼船，沙漠轮蹄，中原羽檄，壮圣主威灵于九万里，声光远烁海东西。
此联也写出了左宗棠的经历、迹遇和生平事迹。
1885年12月10日，左宗棠的遗体被隆重安葬于湖南善化县八都杨梅河柏竹塘山之阳（今长沙县石门乡柏竹塘村）。
附录：左宗棠生平大事年表
1812年 左宗棠生于湖南湘阴县。
1832年 左宗棠成为清宣宗道光十二年举人。后入两江总督陶澍幕府，并与陶结为亲家。
1851年 左宗棠先后入湖南巡抚张亮基、骆秉章幕府，为平定太平军筹划。
1856年 左宗棠升任兵部郎中。
1862年 左宗棠由曾国藩举荐由太常卿升任浙江巡抚，并组成中法混合军和扩充中英混合军与太平军作战，克金华、绍兴等地，升任闽浙总督。
1864年 左宗棠克杭州，并受封一等恪靖伯。之后致力于剿灭东南太平军残部。
1866年 左宗棠年在福州马尾办船厂，也就是后来的福建船政局，并创办求是堂艺局，培养海军人才。同年，改任陕甘总督，其间创办兰州制造局。后创办甘肃织呢总局。
1867年 左宗棠被授钦差大臣督办陕甘军务，定“先捻后回”方略。
1868年 左宗棠参与平定捻军。
1873年 左宗棠被授协办大学士。
1874年9月18日 左宗棠被授东阁大学士。
1875年 左宗棠奉命以钦差大臣督办新疆军务。
1876年 左宗棠定“缓进急战”方略，指挥刘锦棠、金顺诸军镇压阿古柏、白彦虎。
1877年 左宗棠收复除伊犁地区外的新疆全部领土，并为新疆建行省开发等预作规划。
1878年3月 左宗棠由一等恪靖伯晋二等恪靖侯。
1881年2月 左宗棠入燕京任军机大臣，10月改任两江总督。
1884年6月 左宗棠入京任军机大臣，9月以钦差大臣督办闽海军务。
1885年9月 左宗棠病故于福州，谥“文襄”。后归葬于湖南故里。
