·谷歌AI Overview“胡扯(che)”引发科技圈热议，有专家分析(xi)认为，AI技术并未学会因果关系(xi)，AI不(bu)知(zhi)对错。
·当前，谷歌正(zheng)面临(lin)激烈的市(shi)场竞争(zheng)，搜索引擎(qing)Bing、OpenAI等竞争(zheng)对手在AI领域(yu)已先行一步。
曾以(yi)提供高质量而闻名的谷歌搜索引擎(qing)在有了(le)AI加持后却因提供错误、荒谬(miu)的答案引发争(zheng)论。
今年5月15日刚刚上线的谷歌AI Overview功能，旨(zhi)在通过人(ren)工智能技术，在搜索结果顶部提供AI生成的答案，以(yi)增强搜索引擎(qing)的用户体验(yan)。谷歌表示，它将为美国用户的在线查询提供人(ren)工智能生成的答案，这是其搜索引擎(qing)25年来最大的更新之一。但该功能上线后近却出(chu)现了(le)一系(xi)列错误和不(bu)当建议，引发网络热议。比如，有网友在谷歌搜索中(zhong)查询“芝士和披萨粘不(bu)到一块”的解决办法时，AI给出(chu)的建议是在酱料中(zhong)加入(ru)1/8杯的无毒胶(jiao)水以(yi)增加粘性。另一位用户询问“兔子是否曾在NBA打过球”，AI说“是”，因为搞混了(le)将球员的名字与“兔子”这一词汇。
被网友发现谷歌AI Overviews在“胡扯(che)”。
AI搜索为何(he)会出(chu)现这一现象，以(yi)及谷歌为何(he)将这一看(kan)上去并没有完(wan)全准备好(hao)的产品(pin)着急推出(chu)？澎湃(pai)科技为此采访了(le)相关人(ren)士。
业内专家分析(xi)：AI技术无法理解因果逻辑关系(xi)
针对AI Overviews出(chu)现的胡扯(che)，谷歌随后回应表示会继续改进相关算法进行修正(zheng)，但也(ye)在官方声明(ming)内容中(zhong)称，“基于我们的观测情况，网友分享的很多示例(li)并非常见查询，且部分示例(li)存在被篡改或(huo)无法重现的情况”，谷歌表示将根据内容政(zheng)策迅速采取适当措(cuo)施(shi)。
不(bu)过，谷歌首席执(zhi)行官桑达尔(er)?皮查伊日前在接受外媒(mei)采访时也(ye)承认，这些AI Overviews功能产生的“幻觉”是大语言模型（LLM）的固(gu)有缺陷，而大语言模型正(zheng)是AI Overviews功能的核(he)心技术。
所谓AI“幻觉”，是指AI在处理和生成信息时，会错误地创建不(bu)存在的事(shi)实或(huo)数据，从而误导(dao)用户。皮查伊表示，这个(ge)问题目前尚无解决方案。
清华大学交叉信息研究院助理教授、斯坦(tan)福大学博士于洋向(xiang)澎湃(pai)科技（www.thepaper.cn）分析(xi)认为，谷歌AI Overview出(chu)现“胡扯(che)”，实际上恰恰体现了(le)人(ren)工智能本身学会了(le)语言结构、语法等，但并未学会因果关系(xi)（即逻辑依据）。
于洋称，通过他们小(xiao)组(zu)研究表明(ming)，光靠投喂数据，AI很难学会因果关系(xi)——因为在高维(wei)关系(xi)中(zhong)，能够预测准确的相关关系(xi)非常多，而因果关系(xi)只是其中(zhong)之一。毕(bi)竟(jing)，没有因果教育，人(ren)都会产生“正(zheng)月剃头死舅舅”这样的错觉，更何(he)况当前的AI技术。
于洋认为，目前AI的范(fan)式本身造(zao)成了(le)AI不(bu)知(zhi)对错，现有的架构从数据到模型架构再到训练、检验(yan)都在鼓励(li)AI找用于预测准确的相关性，而不(bu)是理解因果。人(ren)工智能无法理解因果、学会知(zhi)识、懂得对错。
“现在不(bu)管哪个(ge)大模型都有这个(ge)问题。”于洋说，出(chu)现“胡扯(che)”内容也(ye)较(jiao)为正(zheng)常。
观安(an)信息联合创始(shi)人(ren)兼CTO胡绍勇同样指出(chu)，当前大模型技术主要依靠海量的数据训练进行。由于人(ren)类向(xiang)AI的提问较(jiao)为多样且发散，AI会提供基于统计概率相近的答案，而非准确的答案。在这种情况下，AI给出(chu)的答复(fu)虽然看(kan)似合理，却可能与事(shi)实不(bu)符。因此，做好(hao)数据清洗是避(bi)免误导(dao)信息传播的重要环节。
上海市(shi)人(ren)工智能标准化技术委员会副秘书长、上海人(ren)工智能行业协会标准研究部部长陈曦在接受澎湃(pai)科技采访时分析(xi)认为，谷歌AI系(xi)统使用Reddit数据训练，没有做好(hao)数据清洗，这正(zheng)是导(dao)致其提供错误信息的关键原因之一。
陈曦推测，AI Overview很可能采用了(le)检索增强生成（RAG），并将信息来源网站(zhan)进行过优先级的设定，Reddit（美国社(she)交网站(zhan)）作为合作方被优先在知(zhi)识库中(zhong)进行答案搜集并整合给大语言模型处理，这其中(zhong)就包含了(le)类似“给披萨涂胶(jiao)水”这类网友在社(she)交网站(zhan)上撰写的看(kan)似合理实则是玩笑的答案。
谷歌正(zheng)面临(lin)激烈的市(shi)场竞争(zheng)
有技术人(ren)员分析(xi)指出(chu)，此前ChatGPT有“扯(che)淡”的回答，大家会笑话(hua)一下，以(yi)挖出(chu)程序错误为乐，但现在用户不(bu)再为此类错误买(mai)单，这也(ye)间接体现了(le)谷歌推出(chu)AI Overview的时间窗口(kou)可能不(bu)合适。另有技术人(ren)员猜测，Google搜索引擎(qing)一直依据质量评分者指南（eeat）评估搜索内容、判断搜索内容是否可信，这次被网友抓(zhua)包，很有可能是因为着急上线。
科技媒(mei)体The verge分析(xi)指出(chu)，谷歌当前正(zheng)面临(lin)着激烈的市(shi)场竞争(zheng)，目前搜索引擎(qing)Bing、OpenAI等竞争(zheng)对手在AI领域(yu)已先行一步。Bing于2019年推出(chu)了(le)自己的AI助手“Bing智能”，OpenAI也(ye)在5月14日凌晨推出(chu)了(le)GPT-4o模型。
当前，年轻用户越来越多地转向(xiang)TikTok等新兴平台,用户习惯和信息获取方式发生了(le)改变(bian)，谷歌需要通过创新来吸引用户，谷歌推出(chu)AI Overviews是人(ren)工智能领域(yu)的一次突破，为了(le)在人(ren)工智能时代重新定义搜索,提升用户体验(yan),在竞争(zheng)中(zhong)保持领先,并不(bu)断优化和改进产品(pin),以(yi)赢得用户的信任。
今年2月21日，谷歌宣布与美国社(she)交平台Reddit达成合作，将其平台上的内容用于训练谷歌的AI模型。公开(kai)资料显示，Reddit被称为“美国版百度(du)贴吧(ba)”，是一家拥有18年历史的社(she)交媒(mei)体平台，用户可以(yi)在上面发帖、评论、交流各种话(hua)题。
陈曦称，Reddit话(hua)题虽然丰富多样，但其中(zhong)也(ye)包含大量噪声和不(bu)准确的信息，例(li)如用户半开(kai)玩笑的那些“高级答案”。如果没有充分的数据清洗和过滤，训练出(chu)的模型容易受到这些错误信息的诱导(dao)。