光绪二十五年（1899年），是叶澄衷生命的最后一年。从咸丰三年（1853年）他告别母亲，告别家乡来到上海滩谋生，到此已经整整47年。47年来，叶澄衷以艰苦卓绝的精神，在黄浦江的风浪中搏击，在风起云涌的商海中驰骋，实现了人生的辉煌，见证了上海的兴衰变迁，为上海的繁荣作出了不凡的贡献。
一个人积累了巨大的财富，也不可能带到另外一个世界。人总要留下点什么，以实现生命的不朽。一向健康的叶澄衷在这一年突然病倒了，而且病情不见好转。这使他感到时间紧迫。
一直以来，叶澄衷的心头都萦绕着一个问题，这就是，镇海沈郎桥叶氏家族有几百户人家，除了小部分人生活充裕外，还有很多叶氏族人生活在贫困之中。如何使整个叶氏家族的人生活上都有保障，就成为他心中的一件大事。
北宋名相范仲淹在家乡苏州举办义庄救济同宗的事迹，对他影响很大。他想效仿这位先贤。
范仲淹，字希文，谥文正，苏州吴县（今江苏苏州）人，北宋仁宗时的著名宰相。从小家境贫寒，刻苦自励，曾经立下了“不为良相，便为良医”的誓言。做官以后，他以“先天下之忧而忧，后天下之乐而乐”的思想自励，以“为天下事奋不顾身”而成为古代文人的表率。不仅如此，在慈善义举方面，范仲淹在我国历史上也是一位具有里程碑意义的人物。1050年，范仲淹第三次被贬官回乡闲居，其间他没有因为自己受到不公正的待遇而自怜自惜、消沉抱怨，而是把关注的目光投向家族中贫苦人的生活。当他看到这些同族同宗的人们因为贫穷而生活没有着落时，心中产生了深深的悲悯之情。于是他慨然捐田1000多亩，建立义庄，用这些土地上的地租收入赡养同宗族中贫苦的成员。为了使义庄能够长远地维持下去，他给义庄订立了严格的管理章程，规范族人的生活，使义庄的救助适得其所，既不能使人冒领救助，也不让需要救助的人贫寒无告。后来，范仲淹的后代们继承祖先的遗德，不断完善和维护义庄的财产和管理，使得范氏义庄一直延续了800多年，一直到清代末年还在继续。范氏义庄的建立和持续，是我国慈善史上的大事，也是我国古代慈善事业的光辉典范，在官方和民间都有良好的口碑。苏州距离上海不远，对于范氏义庄的情况，叶澄衷是早有耳闻并歆慕已久的，所以在自己的花甲之年，他决心以古人为榜样，以自己的力量在家乡兴办叶氏义庄，以救助同宗族中的贫寒者，使他们免遭饥寒之叹。
于是，叶澄衷给在乡下的族叔叶志铭写信，陈述自己的心愿，请他主持叶氏义庄的修建。
1899年9月30日，叶澄衷受上海知县王豫照之请，参加了沪上名流座谈会，商讨捐资修建医院事宜。在叶澄衷的带动和倡导下，上海各界人士纷纷捐款，用捐助所得修建了一所中国人自己的医院——上海同济医院。
同济医院的事情议定之后，叶澄衷还有一件放不下的心事，这就是他一直想创办一所学校，但因为没有考虑成熟，所以也一直没有付诸实施。
叶澄衷为什么想创办一所学校呢？这和他幼年的经历有关。幼年时私塾读书的美好回忆一直深深地留在他的脑海里，后来的被迫失学就成了他心中一个永远抹不去的痛。所以他想着自己发达以后，一定要创办一所学校，让穷苦的孩子都能上学。还有一种说法是，有一次叶澄衷和樊菜他们到张家浜（今上海新建路一带）去考察义昌成商号的选址，路上看到一群孩子在河边玩耍，此时正值河潮初涨，叶澄衷怕孩子们出事，就劝他们离开河边，到相对安全的地方去。哪知那些孩子不但不听，反而破口大骂，骂叶澄衷多管闲事。叶澄衷一方面为自己的好意得不到孩子们的理解而懊悔，另一方面又觉得这些孩子现在如果不接受良好的教育，将来就会是一些不懂文明礼仪的野蛮人。因贫穷而得不到教育，更加愚昧，愚昧又会加剧贫穷。贫困的人总是陷入这样的恶性循环，难以摆脱不幸的命运。
他决心创办一所从蒙童开始接受教育的学校，让穷人家的孩子从小也能受到良好的教育，知书识礼。他早就有这个想法，只是以前无暇实施，现在病重，深恐去日无多，便乘着头脑还清醒，给他的慈善机构“怀德堂”的董事们写了一封信，诉说办学初衷。
光绪二十五年十月初三（1899年11月5日），叶澄衷在老顺记安然去世，永远地离开了他的亲人、朋友和为之奋斗了一生的店铺商号。
在他去世的第二年，“澄衷蒙学堂”开始兴建，1901年正式招生开学。当时，清政府的督学部颁发给学堂“启蒙种德”匾额一块，是光绪皇帝的御笔亲书。
澄衷蒙学堂的第一任校长为刘树屏，不久即因为在南洋公学任职而辞去澄衷蒙学堂的职务，并推荐好友山阴蔡元培担任澄衷蒙学堂的第二任校长。
蔡元培为学校制定的校训是“诚朴”二字，即“诚信”“朴实”之意，这既是对学校创办者叶澄衷高贵品质的赞扬表彰，也是对就学于澄衷蒙学堂的学子们的基本要求。
澄衷学堂培养出了大批杰出人物，有胡适、竺可桢、乐嘉陵、倪征燠、李达三、陈秉权、于崇文等。
著名学者胡适进校的时间是光绪三十一年（1905年）。在若干年以后撰写的回忆文章中，他对澄衷学校的学习生活依然记忆犹新，以《管理严肃，考试认真》为题，写下了一段充满感情的文字：
我进的第二个学堂是澄衷学堂，这学堂是宁波富商叶澄衷先生创办的，原来的目的是教育宁波的贫寒子弟；后来规模稍大，渐渐成了上海一个有名的私立学校，来学的人便不止于宁波人了。澄衷共有12个班，课堂分东西两排，最高一班称为东一斋，第一二班为西一斋，以下直到西六斋，这时候还没有严格规定的学制，也没有什么中学、小学的分别。用现在的名称来分，可算前六班为中学，其余六班为小学。
澄衷的学科除国文、英文、算学之外，还有物理、化学、博物、图画诸科。分班略依各班的平均程度，但英文、算学程度过低的都不能入高班。
我初进澄衷时，因英文、算学太低，被编在东三斋（第五班），下半年便升入东二斋（第三班），第二年（光绪三十二年，1906年）又升入西一斋（第二班）。澄衷管理很严，每月有月考，每半年有大考，月考大考都出榜公布，考前三名的有奖品。我的考试成绩常常在第一，故一年升了四班。我在这一年半之中，最有进步的是英文、算学。教英文的谢昌熙先生、陈诗豪先生、张镜人先生，教算学的郁耀卿先生，都给了我很多的益处。
澄衷的教员之中，我受杨千里先生（天骥）的影响最大。我在东三斋时，他是西二斋的国文教员，人都说他思想很新，我去看他，他很鼓励我，在我的作文稿本上题了“言论自由”四个字。后来我在东二斋和西一斋，他都做过国文教员。有一次，他叫我们班上买吴汝纶删节的严复译本《天演论》来做读本，这是我第一次读《天演论》，高兴得很。他出的作文题目也很特别，有一次的题目是《物竞天择，适者生存，试申其义》（我的一篇，前几年澄衷校长曹锡爵先生曾在旧课卷中寻出，至今还保存在校内），这种题目自然不是我们十几岁小孩子能发挥的，但读《天演论》，作“物竞天择”的文章，都可以代表那个时代的风气。
……
我在澄衷只住了一年半，但英文和算学的基础都是这里打下的，澄衷的好处在于管理的严格，考试的认真。还有一桩好处，就是学校办事的人能注意到每个学生的功课和品行。白振民（总教）先生自己虽不教书，却认得每个学生，时时叫学生去问话。因为考试的成绩都有很详细的记录，故每个学生的能力都容易知道。天资高的学生，可以越级升两班，中等的可以半年升一班，下等的不升班，不升班就等于降半年了。这种编制和管理，是很可以供现在办中学的人参考的。
胡适的这篇回忆文章，对母校充满了眷恋、怀念和感激之情，更重要的是，通过他的文章，我们似乎感同身受地领略了澄衷学堂先进开放的理念、严谨刻苦的学风和庄严神圣的使命，不由自主地对澄衷学堂的创办者和经营者升腾起一种深深的敬意。
叶澄衷虽是一位商人，但他身上体现了许多中华民族的传统美德。他刻苦勤奋，坚忍不拔，诚信经商，致富不忘造福桑梓、施惠于民。他虽然不是范仲淹这样的士大夫，但他们的胸怀是一样的。
