·谷歌AI Overview“胡扯”引发科技圈热议，有(you)专(zhuan)家分析认为，AI技术并未学(xue)会(hui)因果关系，AI不知对错(cuo)。
·当前，谷歌正面临激烈的市场竞争，搜索引擎(qing)Bing、OpenAI等(deng)竞争对手在AI领域已先行一步。
曾以(yi)提供高质量而闻名的谷歌搜索引擎(qing)在有(you)了AI加持后却因提供错(cuo)误、荒谬(miu)的答案引发争论。
今(jin)年5月15日刚刚上线的谷歌AI Overview功能，旨在通过人工智能技术，在搜索结果顶部提供AI生成的答案，以(yi)增强搜索引擎(qing)的用户(hu)体验。谷歌表示，它将为美国用户(hu)的在线查询(xun)提供人工智能生成的答案，这是(shi)其搜索引擎(qing)25年来最大的更新之(zhi)一。但(dan)该功能上线后近却出现了一系列错(cuo)误和不当建议，引发网络热议。比如，有(you)网友在谷歌搜索中查询(xun)“芝(zhi)士和披萨(sa)粘不到一块”的解决办法时，AI给出的建议是(shi)在酱料(liao)中加入(ru)1/8杯的无毒胶(jiao)水以(yi)增加粘性(xing)。另一位(wei)用户(hu)询(xun)问“兔子是(shi)否曾在NBA打过球”，AI说“是(shi)”，因为搞混了将球员的名字与“兔子”这一词汇。
被网友发现谷歌AI Overviews在“胡扯”。
AI搜索为何(he)会(hui)出现这一现象，以(yi)及(ji)谷歌为何(he)将这一看上去并没有(you)完(wan)全准备好(hao)的产品着急推出？澎湃科技为此采访了相关人士。
业内专(zhuan)家分析：AI技术无法理(li)解因果逻辑关系
针对AI Overviews出现的胡扯，谷歌随后回应表示会(hui)继续改(gai)进相关算法进行修正，但(dan)也在官(guan)方声明内容中称，“基于我们的观测情况(kuang)，网友分享的很多示例并非(fei)常见查询(xun)，且部分示例存在被篡改(gai)或无法重现的情况(kuang)”，谷歌表示将根据内容政策迅速采取(qu)适当措施。
不过，谷歌首席执行官(guan)桑达尔?皮查伊日前在接受外媒采访时也承认，这些AI Overviews功能产生的“幻(huan)觉(jue)”是(shi)大语言模型（LLM）的固有(you)缺(que)陷，而大语言模型正是(shi)AI Overviews功能的核心技术。
所谓AI“幻(huan)觉(jue)”，是(shi)指AI在处理(li)和生成信息时，会(hui)错(cuo)误地创(chuang)建不存在的事实或数据，从而误导用户(hu)。皮查伊表示，这个问题目前尚无解决方案。
清华大学(xue)交叉信息研究(jiu)院助理(li)教授、斯坦福大学(xue)博士于洋向澎湃科技（www.thepaper.cn）分析认为，谷歌AI Overview出现“胡扯”，实际上恰恰体现了人工智能本身学(xue)会(hui)了语言结构、语法等(deng)，但(dan)并未学(xue)会(hui)因果关系（即逻辑依据）。
于洋称，通过他们小组研究(jiu)表明，光靠投喂数据，AI很难(nan)学(xue)会(hui)因果关系——因为在高维关系中，能够预测准确的相关关系非(fei)常多，而因果关系只(zhi)是(shi)其中之(zhi)一。毕竟，没有(you)因果教育，人都(dou)会(hui)产生“正月剃头死舅舅”这样(yang)的错(cuo)觉(jue)，更何(he)况(kuang)当前的AI技术。
于洋认为，目前AI的范式本身造成了AI不知对错(cuo)，现有(you)的架构从数据到模型架构再到训练、检验都(dou)在鼓励AI找用于预测准确的相关性(xing)，而不是(shi)理(li)解因果。人工智能无法理(li)解因果、学(xue)会(hui)知识、懂得对错(cuo)。
“现在不管哪个大模型都(dou)有(you)这个问题。”于洋说，出现“胡扯”内容也较为正常。
观安信息联(lian)合创(chuang)始人兼CTO胡绍勇(yong)同样(yang)指出，当前大模型技术主要(yao)依靠海量的数据训练进行。由于人类(lei)向AI的提问较为多样(yang)且发散，AI会(hui)提供基于统计概(gai)率相近的答案，而非(fei)准确的答案。在这种情况(kuang)下，AI给出的答复虽然看似合理(li)，却可能与事实不符。因此，做好(hao)数据清洗是(shi)避免误导信息传播(bo)的重要(yao)环节。
上海市人工智能标准化技术委员会(hui)副秘书长、上海人工智能行业协会(hui)标准研究(jiu)部部长陈曦在接受澎湃科技采访时分析认为，谷歌AI系统使用Reddit数据训练，没有(you)做好(hao)数据清洗，这正是(shi)导致其提供错(cuo)误信息的关键原因之(zhi)一。
陈曦推测，AI Overview很可能采用了检索增强生成（RAG），并将信息来源网站进行过优先级的设定，Reddit（美国社交网站）作为合作方被优先在知识库中进行答案搜集并整合给大语言模型处理(li)，这其中就包含了类(lei)似“给披萨(sa)涂(tu)胶(jiao)水”这类(lei)网友在社交网站上撰写的看似合理(li)实则是(shi)玩笑的答案。
谷歌正面临激烈的市场竞争
有(you)技术人员分析指出，此前ChatGPT有(you)“扯淡(dan)”的回答，大家会(hui)笑话一下，以(yi)挖出程序错(cuo)误为乐，但(dan)现在用户(hu)不再为此类(lei)错(cuo)误买单，这也间接体现了谷歌推出AI Overview的时间窗口可能不合适。另有(you)技术人员猜测，Google搜索引擎(qing)一直依据质量评分者指南（eeat）评估搜索内容、判断搜索内容是(shi)否可信，这次被网友抓包，很有(you)可能是(shi)因为着急上线。
科技媒体The verge分析指出，谷歌当前正面临着激烈的市场竞争，目前搜索引擎(qing)Bing、OpenAI等(deng)竞争对手在AI领域已先行一步。Bing于2019年推出了自己的AI助手“Bing智能”，OpenAI也在5月14日凌晨推出了GPT-4o模型。
当前，年轻用户(hu)越来越多地转向TikTok等(deng)新兴平台,用户(hu)习惯(guan)和信息获取(qu)方式发生了改(gai)变，谷歌需要(yao)通过创(chuang)新来吸引用户(hu)，谷歌推出AI Overviews是(shi)人工智能领域的一次突破，为了在人工智能时代重新定义搜索,提升用户(hu)体验,在竞争中保持领先,并不断优化和改(gai)进产品,以(yi)赢得用户(hu)的信任。
今(jin)年2月21日，谷歌宣(xuan)布与美国社交平台Reddit达成合作，将其平台上的内容用于训练谷歌的AI模型。公开资料(liao)显(xian)示，Reddit被称为“美国版百度贴吧(ba)”，是(shi)一家拥有(you)18年历史的社交媒体平台，用户(hu)可以(yi)在上面发帖、评论、交流(liu)各种话题。
陈曦称，Reddit话题虽然丰富多样(yang)，但(dan)其中也包含大量噪(zao)声和不准确的信息，例如用户(hu)半开玩笑的那些“高级答案”。如果没有(you)充分的数据清洗和过滤，训练出的模型容易受到这些错(cuo)误信息的诱导。