关闭广告

斯坦福大学团队推出「许可证神谕」:让AI学会说「我不知道」

科技行者2606人阅读


当你向ChatGPT询问某位哲学家的出生日期时,它总是信心满满地给出答案,哪怕这个答案完全错误。这种现象被研究者称为「幻觉」,就像AI患了妄想症,总是编造一些听起来很有道理但实际上完全错误的信息。来自加州圣迭戈RA软件公司的理查德·阿克曼和保加利亚索菲亚大学的西蒙·埃马努伊洛夫在2025年发表的这项研究,提出了一个革命性的解决方案——「许可证神谕」系统。

这项研究发表在2025年的学术期刊上,研究者通过设计一种全新的架构,让AI在回答问题前必须先检验自己的答案是否正确,就像给AI装上了一个严格的「事实核查员」。研究团队在实验中取得了惊人的成果:传统方法只能达到56.7%的准确判断率,而他们的系统达到了完美的100%准确率,完全消除了虚假答案的产生。

研究者首先深入分析了AI产生幻觉的根本原因。在他们之前发表的研究《大型语言模型是如何被设计来产生幻觉的》中,研究团队指出,这个问题并非来自训练数据不足或模型调优不当,而是源于变换器架构本身的局限性。变换器模型就像一个只会模仿的学生,它能够生成语法正确、听起来合理的句子,但缺乏验证这些句子是否符合事实的能力。研究者将这种现象比作「平面语义空间」,在这个空间中

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

可搭载“波塞冬”核动力无人潜航器 俄新一艘核潜艇出坞

上观新闻 浏览 3530

世界排名升至第2!莫雷加德创生涯新高,力压林诗栋雨果张本智和

乒谈 浏览 1990

高市落泪称让民众不用担心中国 关键时刻金正恩出手了

时时有聊 浏览 21844

雅图高新被举报后发长文反驳:谁是谁非需捋清 北交所非“垃圾箱”IPO企业非出气筒

财经下午茶 浏览 3593

夫妻欠债2.45亿移居海外被跨境追索 南京法院判了

扬子晚报 浏览 114840

消息称6.3英寸小屏机或为OPPO Find X9s,将搭载双2亿镜头

IT之家 浏览 2836

能否复刻N7的成功?日产N6申报图现身

Nice好车 浏览 3763

在都市里种下一颗自然的种子 欧拉5设计解析

网易汽车 浏览 4284

泰国王太后诗丽吉逝世享年93岁,后宫恐加混乱

译言 浏览 3726

劲爆!纪委直接入场,知名车企两高管办公室内被带走!

汽车工程师 浏览 2973

花江峡谷大桥推"无绳蹦极":提供高度选择 价格1600元

极目新闻 浏览 8420

伊朗外长:伊朗做好了应对一切可能的准备

环球网资讯 浏览 2580

QClaw指令发红包?微信员工紧急回应:假的!

雷科技 浏览 1837

巴列卡诺2-1马略卡,帕拉松点射、德弗鲁托斯破门

懂球帝 浏览 2591

许绍雄情况不乐观!黄宗泽低调现身,佘诗曼落泪取消行程前往医院

萌神木木 浏览 3587

33.38亿!刘永好实控的新希望拟定增募资用于数智化升级和还债

红星资本局 浏览 2622

芯片圈“大佬”IPO梦碎,牵出千万受贿案!

野马财经 浏览 3738

今日热点:主创说《怪奇物语》结局很精彩;李亚鹏说真相比猜想更精彩……

伊周潮流 浏览 3797

山西宣布废除烟花爆竹"禁放令" 网友:年味回来了

每日经济新闻 浏览 14104

特朗普为何如此想要格陵兰岛 美联社用同个词解释3次

大象新闻 浏览 7979

拼多多,十年启示录

正和岛 浏览 3823
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1