如何减少AI“一本正经地胡诌”?新方法出现了

新研究:新技术助力人工智能减少“胡诌”

人工智能(AI)中广泛使用的大语言模型不时出现的“一本正经地胡诌”是其难以克服的问题。近日,英国牛津大学研究团队开发出一种名为“语义熵”的新方法,有望大幅提升AI回答的可靠性。

大语言模型的“胡诌”在业界被称为“幻觉”,牛津大学计算机科学系的研究人员提出“语义熵”方法试图解决这一问题。在热力学中,熵描述的是系统的混乱或者说不稳定程度。这项研究中,熵衡量了大语言模型回答的不确定性,不确定性高意味着大语言模型的回答可能存在虚构。

该研究成果已发表在近期出版的英国《自然》杂志上。论文中说,如果AI对同一个问题,给出了许多语义相似的答案,那说明它对自己的回答比较有把握;反之,如果答案五花八门,那就意味着AI自己也“心里没底”,很可能是在“胡诌”。

研究人员利用“语义熵”方法,让大语言模型对同一问题生成多个答案,然后将语义相近的答案聚类,最后根据聚类结果计算熵值。熵值越高,表示大语言模型的回答越不确定。

值得注意的是,这一方法不仅考虑了大语言模型回答的字面差异,更关注语义层面的一致性。这使得“语义熵”能够更准确地识别AI的“胡诌”,而不会被表达方式的多样性所迷惑。

研究结果表明,“语义熵”方法在多个数据集和任务中都表现出色,能有效检测大语言模型的错误回答,并通过拒绝回答不确定的问题来提高整体准确率。更重要的是,这一方法无需修改AI模型本身,可以直接应用于现有的大语言模型。

研究人员说,“语义熵”技术有望在问答系统、文本生成、机器翻译等多个领域发挥重要作用,帮助AI生成更可靠、更有价值的内容。这不仅将提升AI在实际应用中的表现,也将增强用户对AI系统的信任。

本站内容及图片来自网络,版权归原作者所有,内容仅供读者参考,不承担相关法律责任,如有侵犯请联系我们:609448834

Like (0)
华夏门网的头像华夏门网
Previous 2024年7月19日
Next 2024年7月19日

相关推荐

  • 拯救地球的另一种方法:向大气层注入气溶胶、向海洋施铁肥?

    4.20 知识分子 The Intellectual 图源:pixabay 撰文丨朱禾 来源丨《国家科学评论》(NSR) ●  ●  ● 在过去的一年里,包括北京在内的中国北方大部分地区经历了近年来可能是最炎热的夏季,连续多日气温高达40℃。《国家科学评论》(NSR)编辑部组织了一个关于气候变化的线上论坛,讨论一个应对气候变化的重要课题——地球工程。 与常见…

    门窗安装 2024年4月25日
    110
  • 新手写作入门最直接的方法:抄!

    女性成长|读书写作 大家好,我是一航,下班后做公众号的职场妈妈。 今天刷到一个姐姐,比我大一岁,日更29天就有好几篇10W+,我把文章推给一航写作社群的几个小伙伴一起学习。 我觉得学习模仿优秀账号是我们公众号新手的必修课。 自从2月底入局公众号写作后,我每天都会看优秀的文章,并且用最直接的方法抄。 这里的抄不是简单的复制粘贴,而是拆解文章后的深度思考。 思考…

    门窗安装 2024年8月3日
    70
  • 门窗十大品牌排行榜前十强

    国内门窗行业璀璨夺目,精英品牌竞相绽放,以下是精心遴选的门窗排行榜前十强,每一品牌皆以匠心独运,引领行业风尚: 1. 简纳斯门窗:如同艺术殿堂中的璀璨明珠,简纳斯门窗以其简约而不失高雅的设计语言,融合先进工艺与环保材料,为每一个家量身定制光影与安全的完美平衡。 2. 新豪轩门窗:作为行业创新的领航者,新豪轩门窗以科技为翼,不仅注重产品的隔音隔热性能,更在智能…

    门窗安装 2024年8月3日
    20
  • 拍客|親歷者講述宜賓地震瞬間 :震感強烈,門窗嘩嘩作響,警報器長鳴

    視頻加載中… 10月10日,四川宜賓。據中國地震臺網正式測定:10月10日01時52分在四川宜賓市興文縣(北緯28.12度,東經105.13度)發生4.5級地震,震源深度10千米。 地震發生時,當地監控記錄下地震瞬間,門、窗、燈具掛飾晃動明顯。多名親歷者表示,震感明顯“直接被震醒瞭。”親歷者陳先生稱,一點多鐘被震醒瞭,“習以為常又睡瞭。”親歷者羅…

    门窗安装 2024年10月14日
    20
  • 系統門窗的安裝過程如何避免吃虧呢?

    傢庭更換系統門窗時,對於門窗的拆遷與安裝是不熟悉的,因此對於需要安裝的傢庭來說,如何檢查門窗的安裝質量成瞭需要學習與瞭解的事情。 在系統門窗的安裝中與安裝完畢之後,除瞭觀察系統門窗的表面質量之外,也要關註門窗安裝工所進行的工序,觀察是否選擇合格的建材,避免使用偽劣建材影響門窗安裝之後的長期使用。 同時,在門窗安裝中,系統門窗的安裝一般要經過立框、連接穩固、嵌…

    门窗安装 2024年9月8日
    30

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信