如何减少AI“一本正经地胡诌”?新方法出现了

新研究:新技术助力人工智能减少“胡诌”

人工智能(AI)中广泛使用的大语言模型不时出现的“一本正经地胡诌”是其难以克服的问题。近日,英国牛津大学研究团队开发出一种名为“语义熵”的新方法,有望大幅提升AI回答的可靠性。

大语言模型的“胡诌”在业界被称为“幻觉”,牛津大学计算机科学系的研究人员提出“语义熵”方法试图解决这一问题。在热力学中,熵描述的是系统的混乱或者说不稳定程度。这项研究中,熵衡量了大语言模型回答的不确定性,不确定性高意味着大语言模型的回答可能存在虚构。

该研究成果已发表在近期出版的英国《自然》杂志上。论文中说,如果AI对同一个问题,给出了许多语义相似的答案,那说明它对自己的回答比较有把握;反之,如果答案五花八门,那就意味着AI自己也“心里没底”,很可能是在“胡诌”。

研究人员利用“语义熵”方法,让大语言模型对同一问题生成多个答案,然后将语义相近的答案聚类,最后根据聚类结果计算熵值。熵值越高,表示大语言模型的回答越不确定。

值得注意的是,这一方法不仅考虑了大语言模型回答的字面差异,更关注语义层面的一致性。这使得“语义熵”能够更准确地识别AI的“胡诌”,而不会被表达方式的多样性所迷惑。

研究结果表明,“语义熵”方法在多个数据集和任务中都表现出色,能有效检测大语言模型的错误回答,并通过拒绝回答不确定的问题来提高整体准确率。更重要的是,这一方法无需修改AI模型本身,可以直接应用于现有的大语言模型。

研究人员说,“语义熵”技术有望在问答系统、文本生成、机器翻译等多个领域发挥重要作用,帮助AI生成更可靠、更有价值的内容。这不仅将提升AI在实际应用中的表现,也将增强用户对AI系统的信任。

本站内容及图片来自网络,版权归原作者所有,内容仅供读者参考,不承担相关法律责任,如有侵犯请联系我们:609448834

(0)
华夏门网的头像华夏门网
上一篇 2024年7月19日
下一篇 2024年7月19日

相关推荐

  • 企业流程端到端打通应该怎么做?以下是一些步骤和策略

    企业流程端到端打通应该怎么做?以下是一些步骤和策略,帮助企业实现端到端流程的打通: 1.理解业务全貌: •分析现有流程:首先,全面梳理并理解企业现有的业务流程,包括所有涉及的子流程和交互点。 •客户导向:始终以客户为中心,关注客户旅程和体验,识别哪些环节直接影响客户满意度和价值实现。 2.识别关键流程: •确定端到端的核心流程,如从市场营销、销售、生产制造、…

    门窗安装 2024年4月5日
    70
  • 笑死了!女生吐槽爸爸在楼梯安装一扇门,网友:门关了又好像没关

    为了您更好的阅读互动体验,为了您能够及时看到更多内容,点个“关注”我会每天为您更新更多精彩故事、分享不一样的精彩瞬间。 3月26日,一名女子回到家里,惊讶地发现她的爸爸在楼梯处安装了一扇门。 面对这突如其来的变化,女子试用了一下门,却不知道它的作用是什么,心生疑问。 她忍不住吐槽起爸爸来,觉得这扇门只会增加出门的麻烦,每次都得打开和关闭门,颇有些不解。 或许…

    门窗安装 2024年3月31日
    50
  • 公司注销流程及步骤

    公司注销麻烦嘛 公司注销都需要哪些流程及材料 公司注销需要多长时间 公司注销是指一家公司因各种原因停止经营,并按照法定程序办理注销登记的过程。以下是公司注销的流程及方法: 一、公司注销的流程 1.成立清算组 在公司注销之前,需要成立清算组,对公司的资产和债务进行清算。清算组应当由股东代表和有关专业人员组成,并聘请会计师事务所、律师事务所等中介机构协助清算工作…

    门窗安装 2023年12月12日
    10
  • 门窗安装步骤及流程,源基门窗帮你巧装修!

    门窗的装修是一个细节过程,十分考验装修师傅的细心程度。若稍不注意留下缝隙,很有可能是使用过程中出现漏雨的情况。针对此种门窗可能出现的一系列问题,小编从源基门窗装修师傅这了解到一些门窗安装技巧及注意事项。 源基门窗安装师傅表示门窗的安装最重要的是要细心,其次是要有一定的门窗安装经验跟技巧。 门窗安装中 在安装门窗过程中,我们应该严格监督门窗的水平方向和垂直方向…

    门窗安装 2023年11月3日
    00
  • 从家事调查到家庭教育指导,这个法官办案的确有方法

    许锦艺 图为:今年7月3日,福建省南平市中级人民法院少年庭法官周黎敏(左一)与“百合花开”馨课堂授课老师一起为当事人做心理疏导。资料图片   “现在他爸爸脾气改了很多,大儿子跟着他状态挺好的,最近又考了第一名。六一节,小儿子还让我带他跟哥哥一起看电影,兄弟俩感情不错。”近日,看着如今面带微笑的王小雅,前来回访的福建省南平市中级人民法院少年庭法官周黎敏的嘴角也…

    门窗安装 2024年8月11日
    20

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信