如何减少AI“一本正经地胡诌”?新方法出现了

新研究:新技术助力人工智能减少“胡诌”

人工智能(AI)中广泛使用的大语言模型不时出现的“一本正经地胡诌”是其难以克服的问题。近日,英国牛津大学研究团队开发出一种名为“语义熵”的新方法,有望大幅提升AI回答的可靠性。

大语言模型的“胡诌”在业界被称为“幻觉”,牛津大学计算机科学系的研究人员提出“语义熵”方法试图解决这一问题。在热力学中,熵描述的是系统的混乱或者说不稳定程度。这项研究中,熵衡量了大语言模型回答的不确定性,不确定性高意味着大语言模型的回答可能存在虚构。

该研究成果已发表在近期出版的英国《自然》杂志上。论文中说,如果AI对同一个问题,给出了许多语义相似的答案,那说明它对自己的回答比较有把握;反之,如果答案五花八门,那就意味着AI自己也“心里没底”,很可能是在“胡诌”。

研究人员利用“语义熵”方法,让大语言模型对同一问题生成多个答案,然后将语义相近的答案聚类,最后根据聚类结果计算熵值。熵值越高,表示大语言模型的回答越不确定。

值得注意的是,这一方法不仅考虑了大语言模型回答的字面差异,更关注语义层面的一致性。这使得“语义熵”能够更准确地识别AI的“胡诌”,而不会被表达方式的多样性所迷惑。

研究结果表明,“语义熵”方法在多个数据集和任务中都表现出色,能有效检测大语言模型的错误回答,并通过拒绝回答不确定的问题来提高整体准确率。更重要的是,这一方法无需修改AI模型本身,可以直接应用于现有的大语言模型。

研究人员说,“语义熵”技术有望在问答系统、文本生成、机器翻译等多个领域发挥重要作用,帮助AI生成更可靠、更有价值的内容。这不仅将提升AI在实际应用中的表现,也将增强用户对AI系统的信任。

本站内容及图片来自网络,版权归原作者所有,内容仅供读者参考,不承担相关法律责任,如有侵犯请联系我们:609448834

Like (0)
华夏门网的头像华夏门网
Previous 2024年7月19日
Next 2024年7月19日

相关推荐

  • 企业流程端到端打通应该怎么做?以下是一些步骤和策略

    企业流程端到端打通应该怎么做?以下是一些步骤和策略,帮助企业实现端到端流程的打通: 1.理解业务全貌: •分析现有流程:首先,全面梳理并理解企业现有的业务流程,包括所有涉及的子流程和交互点。 •客户导向:始终以客户为中心,关注客户旅程和体验,识别哪些环节直接影响客户满意度和价值实现。 2.识别关键流程: •确定端到端的核心流程,如从市场营销、销售、生产制造、…

    门窗安装 2024年4月5日
    90
  • 新房门窗装修攻略:选对门窗,住得舒心,都是过来人的经验

    新房装修可是个大事,每个细节都不能马虎。 尤其是门窗的选择,这关系到家的安全、舒适和节能。 今天,就给大家好好科普一下门窗装修的那些事儿,帮助大家避免装修后的烦恼。 01 门窗的重要性 门窗可是家的“脸面”和“眼睛”,选得好不好,直接关系到居住体验。 1. 隔音效果,决定家居安静度 因为窗外嘈杂的声音而烦恼?好的门窗,就像一道隔音屏障,让你远离喧嚣,享受宁静…

    门窗安装 2024年7月29日
    20
  • 不装门槛石?真信你就傻眼了

    门槛石又叫过门石,一般是用于两个空间的连接位置,长这样↑↑↑ 现在网上流行一种说法——门槛石没啥用,不如瓷砖通铺。 门槛石的功能,貌似就是用于两种不同材质之间做过渡,装不装无关紧要。 嘿嘿,真信就等着傻眼吧,门槛石的实际作用没那么简单。 像地面有高度差、或挡水需要的情况,门槛石都是必须要装的,比如大门、卫生间门、阳台平开门等等。 1、大门: 大门处是一定要装…

    门窗安装 2023年10月26日
    60
  • 科学方法和方法论成就了牛顿

    老师教导学生,关键是教科学方法和方法论;学生读书学习,要学习学科基本知识,更要掌握科学方法和方法论。学生在学校得到逻辑思维和创造性方法论的训练,走上工作岗位后就会有源源不断的创造力 英国科学家牛顿的成才过程是怎样的?牛顿的老师巴罗教授用了几年时间,把牛顿培养成为超越自己的人?牛顿成才的经历,对我们有何启发? 1642年12月25日,牛顿出生在英国林肯郡伍尔索…

    门窗安装 2024年6月14日
    60
  • 環球門窗周報:聖堡羅首屆門窗品質節舉辦,軒尼斯召開戰略研討會,老賴不賴、帝奧斯、極景等動態……

    來源:環球網 聖堡羅攜手紅星美凱龍發起首屆門窗品質節 11月28日,由聖堡羅傢居集團和紅星美凱龍聯合發起的聖堡羅首屆門窗品質節在佛山順德成功舉辦。本屆門窗品質節以“知感恩·向上行”為主題,旨在通過視野向上、品牌向上、技術向上、服務向上的品質行動,呼籲全行業以感恩之心,向上發展,共同推動行業持續進步。來自全國各地行業領袖、專傢代表及供應鏈、經銷商合作夥伴等20…

    门窗安装 2024年12月3日
    20

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:[email protected]

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信