当地时间周五，科技巨(ju)头谷歌(ge)宣布，在(zai)发现“AI概览”（AI Overviews）功能出现了一系列错误信息后(hou)，已经对其AI系统进行了“十多项技术改(gai)进和(he)更新”。
在(zai)5月(yue)中旬的年度I/O开发者大会上，这家科技巨(ju)头发布了众多有关AI的产品和(he)服务，其中一项内容是将AI融进其主导(dao)全球的搜索引擎之中，即AI概览功能，首(shou)先在(zai)美国市场推出。简而(er)言之，当用户进行搜索时，首(shou)先出现在(zai)眼前(qian)的不再是网页链接(jie)，而(er)是一块由AI整理的摘要。
然而(er)，不久之后(hou)，社交媒体用户开始分享AI概览给(gei)出的一系列离谱答案的截图。谷歌(ge)对此辩护称，AI概览功能通常是准确的，并且(qie)事先经过了广泛(fan)的测试。
不过到了周五，谷歌(ge)搜索业务主管利兹·里德(de)承认，一些奇(qi)怪的、不准确的或无益的AI搜索结果(guo)确实出现了。
虽然其中许多搜索结果(guo)很愚蠢(chun)，但也(ye)有一些是危(wei)险或有害的谎言。比如，在(zai)披萨上涂胶水以帮助奶酪粘住，每天应该至少吃一块小石头等。再加上一些网友推波助澜，一些虚假的截图也(ye)在(zai)社交媒体上被广泛(fan)分享，导(dao)致事件热(re)度越来越高。
里德(de)表示，已经对AI概览增(zeng)加了更多的“触发限制”，以提高对某(mou)些查询(xun)问题（如健康相关问题）答案的准确性和(he)可靠性。
但在(zai)谷歌(ge)宣布更新，并经过测试后(hou)，发现仍然存在(zai)不少问题。谷歌(ge)AI概览旨在(zai)为人们提供他们正在(zai)寻找的信息的权威答案，而(er)不必点击网站链接(jie)的排名列表，但目前(qian)看来，该功能仍然存在(zai)很大缺陷。
一些AI专(zhuan)家长期(qi)以来也(ye)一直警告(gao)谷歌(ge)，不要将其搜索结果(guo)拱手让给(gei)AI生成的答案，这可能会延续偏见和(he)错误信息，并危(wei)及在(zai)紧急情(qing)况下寻求帮助的人。大语言模型的工作原理是，根据(ju)它们接(jie)受过训练的数据(ju)，预测哪些词语最能回答人们提出的问题，这就导(dao)致它们经常胡编乱造，即AI幻觉。
里德(de)对此表示，AI概览通常不会 “产生幻觉”，也(ye)不会像(xiang)其他大语言模型产品那样胡编胡造，因为它们与谷歌(ge)的传(chuan)统搜索引擎更紧密地结合在(zai)一起，只显示最权威或相关性最高的网页支持(chi)的内容。
她写道(dao)：“当AI概览出错时，通常是由于其他原因：比如误解了查询(xun)，误解了网络(luo)上语言的细微差(cha)别，或者没(mei)有很多有用的信息。”
但华盛(sheng)顿大学教授、计算机科学家Chirag Shah指出，这种信息检索应该是谷歌(ge)的核心业务，不能急于把它交给(gei)AI模型。“因为即使AI不胡编乱造，也(ye)会把错误信息传(chuan)递给(gei)用户，谷歌(ge)这样搞的话，可能会带来相当糟糕的结果(guo)。”
来源：财联社