本月中旬(xun)，谷歌在其年度开发者(zhe)大会I/O上宣布了多年来全球(qiu)搜索领域的最大变革：将其最新的AI模型植入(ru)了搜索引擎，试图一次追赶竞争对手微软和OpenAI。
然而，谷歌这项名为“AI Overview（以下简称‘AI概述’）”的AI搜索功能一上线却遭遇了“花式翻车(che)”，“建议用(yong)户用(yong)胶水将芝士(shi)固定在披萨上”“推荐摄入(ru)石头获取营养(yang)”等一连串荒谬的回答不仅让谷歌十分尴尬，也(ye)在网上掀起(qi)了轩(xuan)然大波。
对此，谷歌发言人表示(shi)，谷歌正在利(li)用(yong)这些“孤立的”例子对其系统进行更广泛的改进。
实际上，《每日经济新闻》记者(zhe)发现，这并不是谷歌AI产品首次“翻车(che)”。去年首推对标ChatGPT的聊天机器人Bard在demo视(shi)频中犯下事实性(xing)错误，让市值一夜暴跌(die)。前段时间，Gemini大多数情况(kuang)下无法生成白(bai)人图像(xiang)，且对历(li)史人物的描绘也(ye)不准确，也(ye)在全网掀起(qi)轩(xuan)然大波。
有观点指出，目前谷歌“AI概述”面(mian)临的尴尬之(zhi)处在于，以前只要AI生成的信息是错误的，那责(ze)任便可以“甩锅”给检索出来的网站，现在谷歌要自己(ji)承担虚假信息和错误信息的责(ze)任，哪怕是AI生成的。除了错误和截(jie)流其他网站外，谷歌“AI概述”也(ye)被(bei)指存在“规模化的剽窃”等风险。
上线便“花式翻车(che)”，甚至教唆“跳桥”
谷歌表示(shi)，通过使用(yong)“AI概述”，用(yong)户将能够从Gemini的强大能力中获益(yi)，从而减少搜索信息的部分工作。
然而，“AI概述”还(hai)没来得(de)及颠覆搜索领域，便已(yi)经制(zhi)造了不少令人啼笑皆非(fei)的“笑料”。
科技媒体The Verge的记者(zhe)Kylie Robison就在其署名文章中举了一个例子对这项新功能进行了讽刺。文章称，当用(yong)户准备享用(yong)自制(zhi)披萨时，却遇到芝士(shi)会滑落的问(wen)题，沮丧的用(yong)户开始查询谷歌搜索解(jie)决方案，然而，AI Overviews的回答是，“加点胶水”，并“贴心”地给出了“操作方法”：“将大约(yue)1/8杯Elmer's胶水与酱汁混合。无毒胶水就可以。”尽管胶水确实可以解(jie)决粘连问(wen)题，但这极有可能是Gemini出现了“幻觉”（Hallucination）所导致的结果。
而这只是“AI搜索”功能近期出现的众多错误之(zhi)一。例如，“AI概述”建议用(yong)户每天至少吃一块石头来补充维生素和矿物质(zhi)。
图片来源：谷歌
此外，“AI概述”还(hai)告诉用(yong)户使用(yong)“含氟漂白(bai)剂和白(bai)醋(cu)”来清洁洗(xi)衣机的内容，但这两(liang)种成分混合后会产生有害的氯气。更离谱的是，当用(yong)户表达(da)“感到沮丧”时，“AI概述”竟然称，“一位Reddit用(yong)户建议从金门大桥上跳下去”。
图片来源：谷歌
危害健康的建议并不仅限于人类。有用(yong)户提问(wen)：“将狗留在闷热的车(che)内是否安全？”“AI概述”的回答是：“把狗留在闷热的车(che)内是安全的。尤其是在闷热的天气里。”
图片来源：X
《纽约(yue)时报》报道称，“AI概述”功能是将谷歌Gemini大语言模型生成的内容与网络上实时的链接片段相结合，其给到用(yong)户的结果可以引用(yong)来源，但却无法辨(bian)别来源内容的正确与否。
The Verge报道就表示(shi)，给披萨加胶水的答案似乎(hu)是基于一位名为“fucksmith”的用(yong)户十多年前在Reddit帖子中的评论，他们显然是在开玩笑。
外媒称，如此荒谬的结构，应该足(zu)以让谷歌考虑删除“AI概述”功能，直到其得(de)到更严格的测试。“AI概述”不仅提供了糟糕的和危险的建议，而且还(hai)可能对谷歌的声誉造成损害。换句话说，一个优秀的AI要既能识别出恰当的内容，又能分析这个内容并决定是否采纳。
谷歌：正利(li)用(yong)“孤立”例子改进产品，AI“幻觉”尚无解(jie)决方案
谷歌发言人在一份声明中称，“AI概述”绝(jue)大多数的搜索结果都(dou)是“高(gao)质(zhi)量信息，还(hai)有可以在网上溯源的链接。我们发现，许多例子都(dou)是不常见的问(wen)题，而且，有些例子被(bei)篡改，有些也(ye)是无法重现的。”
该发言人还(hai)称，谷歌正在“迅速采取行动(dong)，并根据其政策，在适当的情况(kuang)下删除某些‘AI概述’给出的答案，并利(li)用(yong)这些‘孤立的’例子对其系统进行更广泛的改进，其中一些改进的内容已(yi)经开始推出。”
图片来源：谷歌官(guan)网
科技媒体The Verge上周早些报道称，谷歌CEO桑达(da)尔?皮查伊在接受采访时承认，这些“AI概述”功能产生的“幻觉”是大型语言模型的“固有缺陷”，而大型语言模型正是“AI概述”功能的核心技术。皮查伊表示(shi)，这个问(wen)题目前尚无解(jie)决方案（is still an unsolved problem）。
所谓AI的“幻觉”，是指AI在处理(li)和生成信息时，会错误地创建不存在的事实或数据，从而误导用(yong)户。这个问(wen)题不仅在谷歌的AI系统中存在，在其他公司的AI产品中也(ye)同样普遍。
皮查伊的坦诚表态在社会各界引发了广泛讨论。然而，皮查伊似乎(hu)淡化了这些错误的严重性(xing)。他表示(shi)：“‘AI概述’功能有时会出错，但这并不意(yi)味着它没有用(yong)处。我认为这并不是看待该功能的正确方式。我们取得(de)了进展吗？是的，肯定有。与去年相比，我们在事实准确性(xing)方面(mian)的指标上取得(de)了很大进步。整个行业都(dou)在改进，但问(wen)题还(hai)没有完全解(jie)决。”
《每日经济新闻》记者(zhe)注意(yi)到，其实“AI概述”并不是谷歌首个“翻车(che)”的AI产品。
2023年2月，为了对抗新生的ChatGPT，谷歌宣布推出聊天机器人Bard，但在官(guan)方发布的demo视(shi)频中Bard在回答一个有关詹姆斯韦伯太空(kong)望远镜的问(wen)题时给出了错误的答案。今年2月，谷歌发布更新后的AI聊天机器人Gemini，但用(yong)户很快发现，该系统在大多数情况(kuang)下无法生成白(bai)人图像(xiang)，而且对历(li)史人物的描绘也(ye)不准确。
弥合最后20%的差(cha)距是“AI概述”受众规模破10亿的关键
有观点指出，谷歌的“AI概述”功能的尴尬在于，以前只要AI生成的信息是错误的，那责(ze)任便可以“甩锅”给检索出来的网站，现在谷歌要自己(ji)承担虚假信息和错误信息的责(ze)任，哪怕是AI生成的；另外，以前谷歌和其他内容提供网站是共生共赢的关系，如今谷歌截(jie)流了这些网站的流量，用(yong)户直接从“AI概述”给的内容拿结果，这些网站变成了纯供给方，很难被(bei)谷歌“AI概述”引流。
除了一系列(lie)错误和截(jie)流外，谷歌“AI概述”也(ye)被(bei)指存在其他问(wen)题和风险。例如，其“AI概述”总是摘抄来自不同网站的内容，并稍作修改，这种行为也(ye)被(bei)抨击为“规模化的剽窃”。
人工智能专家、纽约(yue)大学(xue)神经科学(xue)名誉教授加里?马库斯（Gary Marcus）表示(shi)，不少AI厂(chang)商(shang)都(dou)是在“兜(dou)售梦想”，希望更多人相信这项技术的正确率终将从80%提升至100%。马库斯强调(diao)，初步实现80%的正确率相对简单，因为其中涉及大量人类数据，其正确率天然就在这个区间。但弥合这最后20%的差(cha)距却极具挑战。实际上，马库斯认为这最后20%很可能是条死胡同。
在发布“AI概述”时，谷歌曾表示(shi)，随着这项功能推广到其他国家，今年年底前“AI概述”的服务(wu)受众规模将超过10亿。然而，正如马库斯教授所言，谷歌能否保(bao)证“最后的20%内容正确率”，才是其“AI概述”受众规模能否超过10亿的关键所在。
其实，自OpenAI于2022年年底发布ChatGPT并一夜成名以来，谷歌一直面(mian)临着将AI整合到其搜索技术中的压力。然而，谷歌在驯服大型语言模型方面(mian)存在挑战，这些大模型是从开放(fang)的网络中获取的大量数据中学(xue)习，而不是像(xiang)传统软件那样编程。
每日经济新闻