·谷歌AI Overview“胡扯”引发科(ke)技圈热议，有专家分析(xi)认为，AI技术并未学会因果(guo)关系(xi)，AI不知对错。
·当前，谷歌正面临激烈的市场(chang)竞争，搜索引擎Bing、OpenAI等竞争对手在AI领域已先(xian)行一(yi)步。
曾以提供高质量而闻名的谷歌搜索引擎在有了AI加持后却因提供错误、荒谬的答案引发争论。
今年5月15日刚刚上线的谷歌AI Overview功能，旨在通过人工智能技术，在搜索结果(guo)顶部提供AI生成的答案，以增强搜索引擎的用户体验(yan)。谷歌表示，它将为美国用户的在线查询提供人工智能生成的答案，这是其(qi)搜索引擎25年来最大的更新之一(yi)。但该功能上线后近却出(chu)现了一(yi)系(xi)列错误和不当建议，引发网络热议。比(bi)如，有网友在谷歌搜索中查询“芝士和披(pi)萨粘(zhan)不到一(yi)块”的解决办法时(shi)，AI给出(chu)的建议是在酱料中加入1/8杯的无(wu)毒胶水以增加粘(zhan)性。另一(yi)位用户询问(wen)“兔子是否曾在NBA打(da)过球”，AI说(shuo)“是”，因为搞混(hun)了将球员的名字与“兔子”这一(yi)词汇。
被网友发现谷歌AI Overviews在“胡扯”。
AI搜索为何会出(chu)现这一(yi)现象，以及谷歌为何将这一(yi)看上去(qu)并没有完全准备好的产品着急推出(chu)？澎湃科(ke)技为此采访了相(xiang)关人士。
业内专家分析(xi)：AI技术无(wu)法理解因果(guo)逻辑关系(xi)
针对AI Overviews出(chu)现的胡扯，谷歌随后回应表示会继续改进相(xiang)关算法进行修正，但也在官方声明(ming)内容中称，“基于我们的观测情况(kuang)，网友分享(xiang)的很多示例并非常见查询，且部分示例存在被篡(cuan)改或无(wu)法重现的情况(kuang)”，谷歌表示将根据内容政策迅速采取适当措施。
不过，谷歌首席(xi)执(zhi)行官桑达(da)尔(er)?皮查伊(yi)日前在接受(shou)外媒采访时(shi)也承认，这些AI Overviews功能产生的“幻觉”是大语言模型(xing)（LLM）的固有缺陷，而大语言模型(xing)正是AI Overviews功能的核心技术。
所谓AI“幻觉”，是指AI在处理和生成信息时(shi)，会错误地创(chuang)建不存在的事实或数据，从而误导用户。皮查伊(yi)表示，这个问(wen)题目前尚无(wu)解决方案。
清华大学交叉信息研究院助理教(jiao)授、斯坦福大学博士于洋向澎湃科(ke)技（www.thepaper.cn）分析(xi)认为，谷歌AI Overview出(chu)现“胡扯”，实际(ji)上恰恰体现了人工智能本身学会了语言结构、语法等，但并未学会因果(guo)关系(xi)（即逻辑依据）。
于洋称，通过他们小组研究表明(ming)，光靠投喂数据，AI很难(nan)学会因果(guo)关系(xi)——因为在高维(wei)关系(xi)中，能够预测准确的相(xiang)关关系(xi)非常多，而因果(guo)关系(xi)只是其(qi)中之一(yi)。毕竟，没有因果(guo)教(jiao)育，人都会产生“正月剃头死舅(jiu)舅(jiu)”这样的错觉，更何况(kuang)当前的AI技术。
于洋认为，目前AI的范式本身造成了AI不知对错，现有的架构从数据到模型(xing)架构再到训练、检验(yan)都在鼓励AI找用于预测准确的相(xiang)关性，而不是理解因果(guo)。人工智能无(wu)法理解因果(guo)、学会知识、懂(dong)得对错。
“现在不管哪个大模型(xing)都有这个问(wen)题。”于洋说(shuo)，出(chu)现“胡扯”内容也较为正常。
观安信息联(lian)合创(chuang)始人兼CTO胡绍勇同样指出(chu)，当前大模型(xing)技术主要(yao)依靠海量的数据训练进行。由于人类向AI的提问(wen)较为多样且发散，AI会提供基于统计概率相(xiang)近的答案，而非准确的答案。在这种情况(kuang)下，AI给出(chu)的答复虽然看似(si)合理，却可(ke)能与事实不符。因此，做(zuo)好数据清洗是避免误导信息传播的重要(yao)环节。
上海市人工智能标准化技术委(wei)员会副秘书长、上海人工智能行业协会标准研究部部长陈(chen)曦在接受(shou)澎湃科(ke)技采访时(shi)分析(xi)认为，谷歌AI系(xi)统使用Reddit数据训练，没有做(zuo)好数据清洗，这正是导致其(qi)提供错误信息的关键原因之一(yi)。
陈(chen)曦推测，AI Overview很可(ke)能采用了检索增强生成（RAG），并将信息来源网站(zhan)进行过优先(xian)级的设定，Reddit（美国社交网站(zhan)）作(zuo)为合作(zuo)方被优先(xian)在知识库中进行答案搜集并整合给大语言模型(xing)处理，这其(qi)中就包含了类似(si)“给披(pi)萨涂胶水”这类网友在社交网站(zhan)上撰写的看似(si)合理实则是玩笑的答案。
谷歌正面临激烈的市场(chang)竞争
有技术人员分析(xi)指出(chu)，此前ChatGPT有“扯淡”的回答，大家会笑话一(yi)下，以挖出(chu)程序错误为乐，但现在用户不再为此类错误买单(dan)，这也间接体现了谷歌推出(chu)AI Overview的时(shi)间窗口可(ke)能不合适。另有技术人员猜测，Google搜索引擎一(yi)直依据质量评分者(zhe)指南（eeat）评估搜索内容、判(pan)断搜索内容是否可(ke)信，这次被网友抓包，很有可(ke)能是因为着急上线。
科(ke)技媒体The verge分析(xi)指出(chu)，谷歌当前正面临着激烈的市场(chang)竞争，目前搜索引擎Bing、OpenAI等竞争对手在AI领域已先(xian)行一(yi)步。Bing于2019年推出(chu)了自己的AI助手“Bing智能”，OpenAI也在5月14日凌晨推出(chu)了GPT-4o模型(xing)。
当前，年轻用户越来越多地转向TikTok等新兴平台,用户习惯和信息获取方式发生了改变，谷歌需要(yao)通过创(chuang)新来吸引用户，谷歌推出(chu)AI Overviews是人工智能领域的一(yi)次突破，为了在人工智能时(shi)代(dai)重新定义搜索,提升用户体验(yan),在竞争中保持领先(xian),并不断优化和改进产品,以赢得用户的信任。
今年2月21日，谷歌宣布与美国社交平台Reddit达(da)成合作(zuo)，将其(qi)平台上的内容用于训练谷歌的AI模型(xing)。公开资(zi)料显示，Reddit被称为“美国版百度贴吧”，是一(yi)家拥有18年历(li)史的社交媒体平台，用户可(ke)以在上面发帖、评论、交流各种话题。
陈(chen)曦称，Reddit话题虽然丰富多样，但其(qi)中也包含大量噪声和不准确的信息，例如用户半开玩笑的那些“高级答案”。如果(guo)没有充分的数据清洗和过滤，训练出(chu)的模型(xing)容易受(shou)到这些错误信息的诱导。