如何减少AI“一本正经地胡诌”?新方法出现了

新研究:新技术助力人工智能减少“胡诌”

人工智能(AI)中广泛使用的大语言模型不时出现的“一本正经地胡诌”是其难以克服的问题。近日,英国牛津大学研究团队开发出一种名为“语义熵”的新方法,有望大幅提升AI回答的可靠性。

大语言模型的“胡诌”在业界被称为“幻觉”,牛津大学计算机科学系的研究人员提出“语义熵”方法试图解决这一问题。在热力学中,熵描述的是系统的混乱或者说不稳定程度。这项研究中,熵衡量了大语言模型回答的不确定性,不确定性高意味着大语言模型的回答可能存在虚构。

该研究成果已发表在近期出版的英国《自然》杂志上。论文中说,如果AI对同一个问题,给出了许多语义相似的答案,那说明它对自己的回答比较有把握;反之,如果答案五花八门,那就意味着AI自己也“心里没底”,很可能是在“胡诌”。

研究人员利用“语义熵”方法,让大语言模型对同一问题生成多个答案,然后将语义相近的答案聚类,最后根据聚类结果计算熵值。熵值越高,表示大语言模型的回答越不确定。

值得注意的是,这一方法不仅考虑了大语言模型回答的字面差异,更关注语义层面的一致性。这使得“语义熵”能够更准确地识别AI的“胡诌”,而不会被表达方式的多样性所迷惑。

研究结果表明,“语义熵”方法在多个数据集和任务中都表现出色,能有效检测大语言模型的错误回答,并通过拒绝回答不确定的问题来提高整体准确率。更重要的是,这一方法无需修改AI模型本身,可以直接应用于现有的大语言模型。

研究人员说,“语义熵”技术有望在问答系统、文本生成、机器翻译等多个领域发挥重要作用,帮助AI生成更可靠、更有价值的内容。这不仅将提升AI在实际应用中的表现,也将增强用户对AI系统的信任。

本站内容及图片来自网络,版权归原作者所有,内容仅供读者参考,不承担相关法律责任,如有侵犯请联系我们:609448834

Like (0)
华夏门网的头像华夏门网
Previous 2024年7月19日
Next 2024年7月19日

相关推荐

  • 門窗十大品牌2024年排名榜單

    門窗十大品牌2024年排名榜單為消費者提供瞭豐富的選擇空間,有助於消費者更加理性地選擇適合自己的門窗品牌。十大品牌都有其獨特的優勢,以產品為核心,性能優異,服務優質贏得用戶高度認可。下面小編為大傢詳細介紹十大品牌之一科饒恩門窗。 科饒恩門窗作為一傢專註於超低能耗門窗的名牌廠傢,有著諸多令人矚目的優勢。首先,在技術研發方面,科饒恩投入瞭大量的人力和物力,組建瞭…

    门窗安装 2024年11月21日
    00
  • 附近哪里有可靠的玻璃门安装师傅,上鱼泡到家

    找生活维修服务,上鱼泡到家。专业团队,微笑服务,岗前培训,售后保障。今天,我们来聚焦一下玻璃门安装这个话题。无论是家庭装修还是商业场所,玻璃门的安装都是一项重要的工程。下面,我们将从四个方面详细阐述玻璃门安装的问题。 1、选择合适的玻璃门要选择合适的玻璃门,需要考虑玻璃门的功能需求、安全性能以及美观度。不同的场所和用途对玻璃门的要求略有不同,如商业场所需要考…

    门窗安装 2023年11月5日
    30
  • 门窗一线品牌排行榜单(2024最新推荐)

    近些年打开知名度的门窗品牌越来越多,业主们在了解品牌的时候也比较纠结,应该选择什么牌子好点,其实小编的建议先缩小范围然后再去对比一些合适的品牌,本文为大家将诶绍一下2024年门窗一线品牌排行榜单。 森鹰门窗;森鹰门窗是行业第一个真正意义上市的品牌,其总部位于黑龙江哈尔滨市。 皇派门窗; 皇派门窗是一个营销体系领先整个行业的品牌,近些年在筹备上市,总部位于广东…

    门窗安装 2024年3月1日
    830
  • 门窗十大品牌排行榜(2024家居排行)

    门窗作为家居装修的重要部分,其品牌选择对于家庭的美观与舒适度至关重要。在市场上,众多品牌竞争激烈,究竟哪些品牌能够脱颖而出,成为消费者心中的优选呢?今天,我们就来揭晓门窗十大品牌排行榜,为您的家居装修提供参考。 1.简纳斯门窗。简纳斯门窗以其精湛的工艺、高品质的材料和独特的设计风格,赢得了消费者的广泛认可。其产品不仅外观美观,而且具有优异的隔音、隔热性能,为…

    门窗安装 2024年3月27日
    80
  • 2024门窗十大品牌最新排行榜

    2024门窗十大品牌最新排行榜无疑是业内瞩目的焦点,这一榜单不仅是对各大品牌实力的一次全面检验,更是为消费者提供了权威且专业的选购指南。下面,让我们一同来深入了解这十大品牌的风采。 1.皇派门窗凭借其卓越的品质和不断创新的设计理念,稳居榜首。作为行业的领军者,皇派门窗始终坚持以客户为中心,不断推陈出新,打造出既美观又实用的门窗产品,赢得了广大消费者的信赖和好…

    门窗安装 2024年6月18日
    10

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信