北魏皇兴年间，献文帝下诏命高允兼任太常，并去兖州拜祭孔子庙，献文帝对高允说：“这件事只有人品宽厚、德行高尚的人才有资格前往，你就不推辞了。”其后，高允跟随显祖献文帝出征北伐，大胜而归，行至武川镇时，高允上奏《北伐颂》，颂辞说：“昊广皇天真伟大，降赐鉴戒唯仁德，眷恋有魏负重任，居高临下照万国。礼仪教化大和谐，君王满腹多谋略，平息乱事依皇威，严守法则万民协。劫掠旧隶属北疆，承政发令在蕃邦，往昔只因常起事，驾车北去顾逃亡。世袭旧制不遵循，背离忠义违诚信，网罗亡徒聚强盗，丑寇败类真不少。竟敢率领众羊犬，图谋放纵更猖獗，圣帝降旨告上下，兴师挥戈去北伐。跃马扬鞭裹干粮，星驰电掣进军忙，扑伐征讨劫杀勇，横扫千军斧钺扬。斧钺所至人头落，执馘获俘灭敌旅。尸横遍野填沟谷，血流成河可漂杵。元凶敌首狐奔逃，假借陋室暂歇脚，手下爪牙已遭剐，身边心腹也被杀。周人和亲敬老笃，忠厚仁德及草木，英明圣皇世绝伦，古今美德汇一身。恩泽被覆京观下，仁德宏旨又垂临，瘗埋尸骨放俘虏，仁爱施予生死魂。生灵死魂蒙仁爱，天地庇护人且喜，人伦纵贯幽冥界，皇泽圣恩播异上。物归其诚安天下，敬神行祭献其福，远近内外得安抚，率土之滨皆臣服。古代所称善用兵，三月克敌属神异，如今圣上也兴师，告捷不足十二日。大军上下同心战，千邦万国共和协，道义光耀垂万载，功勋劳绩铭玉牒，颂扬之声久不灭，流传播布至未来。”显祖阅后非常喜欢。
还有一事。当时，显祖献文帝常常闷闷不乐，因为高祖拓跋宏年纪尚幼，所以献文帝想立京兆王拓跋子推为太子，于是，他召集诸位大臣，依次征询他们的意见。这时高允上前跪倒在地，哭泣说道：“臣不敢多言，只怕烦劳圣听，愿陛下以祖宗托付的事业为重，再回头想想周公辅成王的古事。”显祖于是把帝位传给了高祖，并赏赐高允丝帛千匹，以表彰他的忠诚亮节。高允后又被升任为中书监，兼领散骑常侍。他虽长期掌管菩史校史的工作，然而却不能专心勤勉地从事此事，当时，他与校书郎刘模收集了一些资料，大略地对崔浩过去的工作做了续补，以《春秋》的体例为标准，而对崔著时有刊误匡正。自高宗到显祖的事迹以及军事、国政、书志、檄文，多为高允所撰。到了晚年，高允才推荐高闾接替自己。因他评议朝政有功，又被晋封爵位咸阳公，兼领镇东将军。
不久，高允又被任命为使持节、散骑常侍、征西将军和怀州刺史。一年秋季，高允巡行疆界，他关怀百姓的疾苦，所至之处。问寒问暖，当行至邵县的时候，高允见邵公庙塌毁，便对人说：“邵公的德操，毁伤它而不尊敬它，那么积德行善的人还能敬仰什么呢。”于是上奏魏帝，要求对邵公庙重加修葺。当时高允已年近九十岁了，仍然劝导百姓学习问业，使得这种风气蔚然成风。相反，当时的很多儒者却悠闲自得四处游历，而不去过问国家政事。多年以后。在北魏正光年间，中散大夫、中书舍人河内人常景追思怀念高允，亲率郡中的故旧老人，在野王以南为高允修立祠堂，树立碑石，记述他的丰德。
北魏孝文帝太和二年，高允又以年老为由，请求解甲归田，他先后上呈了十余份奏章，但孝文帝最后还是没有同意，于是高允以有病在身为由，请假回乡。当年，孝文帝就下诏征聘高允，命州郡负责用可以坐乘的安车将他送到京都。来到京城后，封他为镇军大将军，兼领中书监。高允表示坚辞，不予接受。孝文帝又搀扶着他走入内宫，修改议定《皇诰》。高允当时上奏了《酒训》，奏章说：
“圣上曾命臣对于历代因贪杯饮酒而带来的种种弊端、败坏道德的事情加以汇集议论，写成《酒训》。臣愚朽年迈，按照常理都是该被抛弃的人了，而圣上却仍然施予臣异常隆重的恩典，在臣将死之年还录用臣，在臣心志衰丧的时候还勉励臣。臣接受皇命，诚惶诚恐，喜忧交加，不知怎样用行动来报答圣上的关心。尊敬的陛下英明睿智，远见卓识，身居高位安抚万国；太皇太后圣明贤达，仁德广大，救治养育万邦黎民。普天之下，无不称颂。尽管到了晚年还依旧忧虑而操劳不止，各种设想和希望总是接连不断，而且喜欢回首往事，总结一生行为的警示和戒鉴。这种至诚至厚的心怀能够感悟百神，更何况百官和庶民了。臣不胜欣喜，郑重地把臣的所见所闻全部写出来，作成《酒训》一篇。但是臣愚笨无知。见识短浅，加上习文弄墨荒废多年，所以文辞拙劣，意义鄙陋，不值得阅读采纳。尊敬的圣上慈悲为怀，能够体恤臣的一片赤诚之情，宽恕臣悖理不明的主张。《训》辞是：
自古及今，圣贤的帝王都要举行宴飨的礼仪以供奉鬼神，由于上古时代还没有酒，当时都是用水来进行祭礼活动，所以帝王在举行飨礼的时候，要将水制的斋酒放置在厅堂上，而把祭礼用的齐酒放在它的下面，这正是崇尚根本，尊重渊源，而将祭品的滋味看得更次要的表现。如果做到这些，那么，尽管是带着酒杯旅行，走到哪儿喝到哪儿，也不至于混乱。所以，一个人若能在彰明礼制之后饮酒，人们对他的恭敬仰慕之情就不会降低，若能在处理完事务之后饮酒，一切仪式也就不会出现差错。不遵循这项原则的做法，则是违背正道的。如果这样，又将怎么能作为时代的楷模和处事的典范而永世长存呢？综观古今历代兴衰成败的经验教训，其吉凶祸福皆在于人，而不在于天。商纣王帝辛沉湎于酒，殷商王朝因此而灭亡；周公姬旦作成《酒诰》，用它来训诫康叔，周朝因此而得以昌盛。春秋时楚国的公子侧（字子反）非常糊涂，纵情饮酒，终致命丧，而汉代的穆生滴酒不沾，却留下一代美名。有些人长期以来一直作为人们行动的戒鉴，而另一些人则被世人万代传颂。酒这种东西能够改变和惑乱人的性情，虽说是哲人，但又有谁能控制得住自己呢。为官者会因酒而懒散地处理国家政务，庶民也会因酒而对政令怠慢不执行，聪明贤达之士会因酒而废弃昕理，温恭柔顺之人会因酒而使他们发生争斗，而长期狂饮无度又不知悔改，容易得疾。又岂只是病，简直就是减少寿命。有句谚语也说过：饮酒所带来的好处像毫毛一样小，而它对人的损害则像刀切一样快利。这里所说的好处，只是酒的滋味甜美，不也很少吗。这里所说的伤害，则是幼年时代即使你心志迷乱，幼年乱志这种损害，不也很多吗？万勿因饮酒无度而使自己沉沦，千万不要因饮酒争胜而丧失伦常之道。如果做不到这些，就会使国家发生混乱，迷失方向，使人民漂泊流浪。不学习传统，不遵守法规，违背了这些原则还能继承什么呢。《诗经》不是说过，“对待事情要像制造骨器和玉器一样，精心地用刀去切割它，用锉去锉平它，用刀去雕琢它，用物去磨平它。”这就是朋友之间应遵循的原则。作官的人要对君主的错误有所劝谏，为君者要对屡次谋划建功的人有所限制，这是君臣之间应恪守的法则。如果一个人所说的话是善良而有益的，就要反复地斟酌审察，并牢牢地记住它，如果一个人所说的话是恶意而无益的，就要哀怜它。宽恕它。这就是先王采纳规劝时所抱的态度。在昔日司马晋的时代，士大夫多丧失了法度，肆意地放荡不羁，以为这样才是不受约束的表现，纵情地举杯豪饮，以为这样才有高尚豁达的气度，吟唱着关于酒的颂歌，互相炫耀。他们声称尧和舜都有千杯万盏的酒量，宣扬诋毁法度的言论，拿伟大的圣贤为例，来表明他们的行为是在效法上天，难道真是如此吗？子思说过，孔子饮酒，喝不了一升。由此推断，尧舜能饮干杯万盏的说法都是荒谬不合理的。
今天，伟大的魏国应受河图而统治天下，如日月的光辉普照大地，教化所及之处无不归心臣服，仁德之风日盛，遍播于四海。太皇太后以至仁至德教诲万民，不知厌倦，所付出的忧虑和劳苦比皇亲之情还要殷勤周到，政令和教诲广行天下，超越疆界。所以能够使国运与天地和谐，使功绩堪比天地万物。圣上将仁德恩泽降施百姓，于是天下尽皆遵守法度，普天之下，率上之滨，无处不蒙受着恩利。在朝中供职的群臣，都是些有志之士，他们最好要约束自己，从善而行，行为端正，忠直守一。节制饮酒以便形成法度，顺随德政以便建立标准。使人明白狂饮无度的危害，它会让人明知有害而无法自制，使人知遭恭敬谨慎乃是极荣耀的美德。遵守孝道以赡养老人，光宗耀祖而使名声远扬。重蹈孔子的学生闵子和曾子的足迹，把仁德之风传给后人。这样才能向上以报答苍天的赐予，向下以保护所取得的成就。怎么能不努力啊！怎么能不努力啊！”
高祖看后非常高兴，常把它放在自己身边。
高诅孝文帝后来下诏，允许高允乘车入殿，大臣朝拜时也可不必行礼。第二年，孝文帝下令让高允议定法令条文。虽然他的年纪已经很大，但意志和观察力仍没有一丝衰减，犹如当年身为校书郎，披览考定史籍时一样。其后。孝文帝又降诏说：“高允的年纪已经到了危险的阶段，但他家境贫寒，因而保养也很不够。可以让乐部派出十名弹奏丝竹乐器的人员，每隔五日到高允的家里去演奏，以便使他的心志能得到娱乐。”同时还特别赐给他一头蜀地的牛，一辆蜀地制造的四面开窗的四驾马车，一件素面的几案、一件素面的手杖和一口蜀地制造的刀。又赐给他珍奇异味，每当春季和秋季的时候，就经常送给他。不久，孝文帝再降诏令，命早晚为高允送饭。每逢朔日初一和望日十五还要致送牛肉和美酒，至于衣服绵绢，每月都要奉送。高允把这些东西都分赠给了亲朋故友。当时，凡地位显赫的大臣家里，都有很多亲属在朝廷内充任高官，而高允的子弟中却没有一人身兼官爵。他就是这样的清廉谦逊。后来，高允又被升任为尚书、散骑常侍，孝文帝常常邀请他入朝，备好几案手杖，向他征询治国安邦的人政方针。至太和十年，高允兼领光禄大夫，并被授矛系有紫色丝带的金印。朝廷中的重大事务，都要征求询问他的意见。
北魏王朝刚刚建国的时候，法令严明，朝廷中的官吏很多都受过杖刑的责罚。高允前后侍奉了五位皇帝，在尚书省、中书省和门下省三省供职，历时五十余年，却一点过错也没有。当初，在太武帝太平真君年间，因为狱讼刑罚之事停顿日久，积案很多，于是世祖令高允开始在中书省，根根儒家经典的宏旨审断处理多种悬而未决的事情。高允依据法令评定刑罚，历时三十多年，朝廷内外交口称赞他断事公平。高允深知，刑罚之事关系到人民的性命，他常常感叹道：“古代的皋陶虽具有极高尚的德行，但他的后代英国和蓼国却也很早就亡灭了，刘邦与项羽争夺天下之际，英布虽曾因犯罪而受过黥刑，但也称了王。尽管已经历了很长的时代，但仍然还遗留有刑罚的痕迹。圣贤尚且如此，何况凡夫俗子，哪能没有错误呢？”
太和十年四月，群臣京城西郊商议国事，孝文帝下诏，令人用自己的马车迎接高允赴西郊的住所板殿观瞻察视。行至途中。马忽然受惊而狂奔起来，车翻了，高允的额眉处受了三处伤。高祖孝文帝和文明太后派医送药，护理治疗，慰问探望。驾车的车夫将要因此事而受到重罚，高允得知后，赶忙上朝，陈奏自己安然无恙。请求免去车夫的罪过。在此之前，也曾发生过一件类似的事情，魏帝让中黄门苏兴寿搀扶高允行走，一次曾在风雪中遇犬受惊而跌倒，苏兴寿为此非常害怕。高允却安慰鼓励他，不许人把这事张扬出去。苏兴寿说，我替高允办事，与他共同相处了三年，从来没有见他发过脾气。他对人循循善诱，诲人不倦。昼夜手不释卷，吟诵阅读。他对亲人的感情极其深厚，对故旧朋友念念不忘。他谦虚谨慎，善于汲取别人的长处。尽管身居高职，地位显赫，但志向却同无官阶无财产的庶民一样。他喜爱音乐，每当乐伎们弹琴唱歌，击鼓跳舞的时候，他总是在一旁敲着节拍称好。他还非常信仰佛教与道教，经常设斋讲习，对生养之事非常喜好，对杀戮之事则极为憎恶。他性格又很简易通达，不随便与人交往游历。当年，显祖献文帝平定青州，收复齐国故地的时候，曾将当地的名门望族迁徙到了代地。当时，众多的士宦人物辗转迁移，长途跋涉，都已饥寒交迫。在迁徙的人群之中，有很多是高允的亲属，他们都徒步而行，一直走到了目的地。高允把自己的财物全部分发给徙民，用来帮助救济他们的生活，并且慰问周到，关怀入微。人们无不为他仁厚的心怀所感动。他招收徙民中有才能的人，然后上表奏请魏帝，请求任用。当时人们议论纷纷，人们都对这些新选用的人员存有疑虑，高允却说，选取人才，任用能人，不宜于压制身份低微的人。在此之前，高允曾被征召在方山写作颂文，其心气和志向仍与当年相差无几，谈论往事，记忆犹新，不曾遗忘。太和十一年正月，高允去世，享年98岁。
当初，高允常常对人说：“我过去在中书省任职时曾积有阴德，赈济民众，拯救生灵。如果在阳间的报答不出差错的话，我应享有百年的寿命。”在他去世前十多天的时候，身体稍感不适。但他仍然没有入寝就卧，请医服药，而是像往常一样出入随意，行动自如，咏诗诵文不断。高祖孝文帝和文明太后得知高允不适后，即派医生李修前往把脉诊病。李修审视完，告诉高允身体平安无恙。而后李修入朝，秘密地向孝文帝报告说。高允的身体机能与血气循环都出现了异常，恐怕不久于人世了。于是，孝文帝派遣使者送去赏赐给高允的御膳珍羞，自酒米到盐醋，共一百多种，包括尽了当时所有的美食佳味。而且还有床帐、衣服、茵被、几案和手杖，东西摆满了整座庭院。侯王官员们来来往往，纷纷前来慰问嘱咐，高允抑制不住自己兴奋的心情，面带喜色地对人说：“因为我太老了，上天降恩于我，馈赠了这么多佳品，这回可有东西招待客人了。”然后只是上表感谢了一番而已，并没有多想什么。就这样又过了几天，高允在深夜悄然离开了人世，平静得连家人都没有察觉。高允死后，孝文帝下诏赠绢一千匹、布二千匹、丝绵五百斤、锦五十匹、各色各样的彩色丝织物百匹、谷米千斛，用来供丧葬时使用。自北魏初年到现在，无论生者还是死者，还没有人蒙受过这样丰厚的赏赐，朝廷给了高允很高的荣誉。将要入葬之时，孝文帝赐赠高允侍中、司空公和冀州刺史等官，他生前担任的将军、公等官爵依然如故，谥号为文，并赐命服一套。高允撰写的诗、赋、诔、颂、箴、论、表、赞，加上他所著的《左氏释》、《公羊释》、《毛诗拾遗》、《论杂解》、《议何郑膏盲事》等，共百余篇，都分门别类编纂成集，流行于世。高允还通晓算法，著有算术方面的著作三卷。高允死后，他的儿子高忱继承了他的事业。
