，张臶以一百零五岁高龄去世。据说当时有戴胜鸟在张臶家门北面筑巢。张臶对门人说“戴胜鸟属阳，却在属阴的背面筑巢，这是凶兆啊。”于是他弹琴唱歌，作诗两篇，十天后就去世了。
同年，广平太守王肃到任，对张臶表达了敬意，并给他的家属荣誉和特殊照顾。张臶一百零五岁的年龄，是《三国志》中明文所载，他应该是东汉末到三国时期有可靠记载的最长寿的人之一。
魏明帝青龙四年诏书说“张掖郡黑河的汹涌波涛中出现了宝石背负的图像，图像画的是一只灵龟，立于川西，青色的质地，素色的文路，又画有麟凤龙马，形状鲜明，文字宣告天命，粲然可观，意义著明。太史令高堂隆上告朝廷说‘这种宝物的显示是古代圣明皇帝所没有蒙受过的，实在是大魏的吉祥命运，东序的罕见之宝。’”此事颁告天下。任县县令于绰将诏书带去询问张臶，张臶秘密地对于绰说“神明只预言未来，而不追述以往。先用祯祥之兆预告未来，然后兴盛还是衰落才会随之而来。汉朝灭亡已久，曹魏已得天下，还追述什么兴废之兆呢？这块宝石今天的变异，只是将来之吉祥的征兆。”后来司马氏果然取代了曹魏。
与张臶同时代的人，对他的评价往往着眼于他在乱世中不任官、不投