本月中旬，谷歌在其年度开发者大会I/O上宣布了多年来(lai)全球搜索领域的最大变革：将其最新(xin)的AI模型(xing)植入了搜索引擎(qing)，试图一次追(zhui)赶竞争对手微(wei)软和OpenAI。
然而，谷歌这项名为“AI Overview（以下简称‘AI概(gai)述(shu)’）”的AI搜索功能一上线却遭遇了“花式翻车”，“建议用户用胶水将芝士(shi)固定在披萨上”“推荐摄入石头获(huo)取营养”等一连串荒谬的回答不(bu)仅让谷歌十分尴尬(ga)，也在网上掀起了轩然大波。
对此，谷歌发言人(ren)表示，谷歌正在利用这些“孤立的”例子对其系统进行更广泛的改进。
实际上，《每日经济新(xin)闻》记者发现，这并不(bu)是谷歌AI产品首次“翻车”。去(qu)年首推对标(biao)ChatGPT的聊天(tian)机器人(ren)Bard在demo视频中犯下事实性(xing)错误，让市值一夜暴跌。前段时(shi)间，Gemini大多数情(qing)况下无(wu)法生成(cheng)白人(ren)图像，且对历史人(ren)物的描(miao)绘也不(bu)准(zhun)确，也在全网掀起轩然大波。
有观点指出，目前谷歌“AI概(gai)述(shu)”面临的尴尬(ga)之(zhi)处在于，以前只要(yao)AI生成(cheng)的信息(xi)是错误的，那责任便可以“甩(shuai)锅”给检索出来(lai)的网站，现在谷歌要(yao)自己承担虚假信息(xi)和错误信息(xi)的责任，哪(na)怕是AI生成(cheng)的。除了错误和截流其他网站外，谷歌“AI概(gai)述(shu)”也被指存在“规模化的剽窃”等风险。
上线便“花式翻车”
甚至教(jiao)唆“跳桥”
谷歌表示，通过使用“AI概(gai)述(shu)”，用户将能够从Gemini的强大能力中获(huo)益，从而减少搜索信息(xi)的部(bu)分工作。
然而，“AI概(gai)述(shu)”还没(mei)来(lai)得及颠覆搜索领域，便已经制造了不(bu)少令人(ren)啼笑皆非的“笑料”。
科技(ji)媒体(ti)The Verge的记者Kylie Robison就在其署名文(wen)章中举了一个(ge)例子对这项新(xin)功能进行了讽刺。文(wen)章称，当用户准(zhun)备享用自制披萨时(shi)，却遇到芝士(shi)会滑落的问题，沮丧的用户开始查询谷歌搜索解(jie)决方案，然而，AI Overviews的回答是，“加点胶水”，并“贴心”地给出了“操作方法”：“将大约1/8杯Elmer's胶水与酱汁(zhi)混合。无(wu)毒胶水就可以。”尽管胶水确实可以解(jie)决粘连问题，但这极有可能是Gemini出现了“幻觉(jue)”（Hallucination）所导致的结果。
而这只是“AI搜索”功能近期出现的众多错误之(zhi)一。例如，“AI概(gai)述(shu)”建议用户每天(tian)至少吃一块石头来(lai)补充维生素和矿物质。
此外，“AI概(gai)述(shu)”还告诉用户使用“含氟(fu)漂白剂和白醋”来(lai)清(qing)洁(jie)洗衣机的内容，但这两种成(cheng)分混合后(hou)会产生有害(hai)的氯气(qi)。更离谱的是，当用户表达(da)“感到沮丧”时(shi)，“AI概(gai)述(shu)”竟(jing)然称，“一位Reddit用户建议从金门大桥上跳下去(qu)”。
危害(hai)健康的建议并不(bu)仅限于人(ren)类。有用户提问：“将狗(gou)留在闷热(re)的车内是否安全？”“AI概(gai)述(shu)”的回答是：“把(ba)狗(gou)留在闷热(re)的车内是安全的。尤(you)其是在闷热(re)的天(tian)气(qi)里。”
《纽约时(shi)报》报道称，“AI概(gai)述(shu)”功能是将谷歌Gemini大语(yu)言模型(xing)生成(cheng)的内容与网络上实时(shi)的链接片段相结合，其给到用户的结果可以引用来(lai)源，但却无(wu)法辨别来(lai)源内容的正确与否。
The Verge报道就表示，给披萨加胶水的答案似乎(hu)是基于一位名为“fucksmith”的用户十多年前在Reddit帖子中的评论，他们显然是在开玩笑。
外媒称，如此荒谬的结构，应该足以让谷歌考虑删除“AI概(gai)述(shu)”功能，直(zhi)到其得到更严格的测试。“AI概(gai)述(shu)”不(bu)仅提供了糟糕的和危险的建议，而且还可能对谷歌的声(sheng)誉造成(cheng)损害(hai)。换句话说，一个(ge)优秀的AI要(yao)既能识别出恰当的内容，又能分析这个(ge)内容并决定是否采纳。
谷歌：正利用“孤立”例子改进产品AI“幻觉(jue)”尚无(wu)解(jie)决方案
谷歌发言人(ren)在一份声(sheng)明中称，“AI概(gai)述(shu)”绝大多数的搜索结果都是“高(gao)质量信息(xi)，还有可以在网上溯源的链接。我们发现，许多例子都是不(bu)常见(jian)的问题，而且，有些例子被篡改，有些也是无(wu)法重现的。”
该发言人(ren)还称，谷歌正在“迅速采取行动，并根据其政策，在适当的情(qing)况下删除某些‘AI概(gai)述(shu)’给出的答案，并利用这些‘孤立的’例子对其系统进行更广泛的改进，其中一些改进的内容已经开始推出。”
科技(ji)媒体(ti)The Verge上周早些报道称，谷歌CEO桑达(da)尔?皮查伊在接受采访时(shi)承认(ren)，这些“AI概(gai)述(shu)”功能产生的“幻觉(jue)”是大型(xing)语(yu)言模型(xing)的“固有缺陷”，而大型(xing)语(yu)言模型(xing)正是“AI概(gai)述(shu)”功能的核心技(ji)术。皮查伊表示，这个(ge)问题目前尚无(wu)解(jie)决方案（is still an unsolved problem）。
所谓AI的“幻觉(jue)”，是指AI在处理和生成(cheng)信息(xi)时(shi)，会错误地创(chuang)建不(bu)存在的事实或数据，从而误导用户。这个(ge)问题不(bu)仅在谷歌的AI系统中存在，在其他公(gong)司的AI产品中也同样(yang)普遍。
皮查伊的坦诚表态在社会各(ge)界引发了广泛讨论。然而，皮查伊似乎(hu)淡(dan)化了这些错误的严重性(xing)。他表示：“‘AI概(gai)述(shu)’功能有时(shi)会出错，但这并不(bu)意味着它没(mei)有用处。我认(ren)为这并不(bu)是看待(dai)该功能的正确方式。我们取得了进展吗？是的，肯定有。与去(qu)年相比，我们在事实准(zhun)确性(xing)方面的指标(biao)上取得了很大进步。整(zheng)个(ge)行业都在改进，但问题还没(mei)有完全解(jie)决。”
《每日经济新(xin)闻》记者注意到，其实“AI概(gai)述(shu)”并不(bu)是谷歌首个(ge)“翻车”的AI产品。
2023年2月，为了对抗新(xin)生的ChatGPT，谷歌宣布推出聊天(tian)机器人(ren)Bard，但在官方发布的demo视频中Bard在回答一个(ge)有关詹姆(mu)斯(si)韦伯太空望远(yuan)镜的问题时(shi)给出了错误的答案。今年2月，谷歌发布更新(xin)后(hou)的AI聊天(tian)机器人(ren)Gemini，但用户很快发现，该系统在大多数情(qing)况下无(wu)法生成(cheng)白人(ren)图像，而且对历史人(ren)物的描(miao)绘也不(bu)准(zhun)确。
弥合最后(hou)20%的差距是“AI概(gai)述(shu)”受众规模破10亿的关键
有观点指出，谷歌的“AI概(gai)述(shu)”功能的尴尬(ga)在于，以前只要(yao)AI生成(cheng)的信息(xi)是错误的，那责任便可以“甩(shuai)锅”给检索出来(lai)的网站，现在谷歌要(yao)自己承担虚假信息(xi)和错误信息(xi)的责任，哪(na)怕是AI生成(cheng)的；另外，以前谷歌和其他内容提供网站是共生共赢的关系，如今谷歌截流了这些网站的流量，用户直(zhi)接从“AI概(gai)述(shu)”给的内容拿结果，这些网站变成(cheng)了纯供给方，很难被谷歌“AI概(gai)述(shu)”引流。
除了一系列(lie)错误和截流外，谷歌“AI概(gai)述(shu)”也被指存在其他问题和风险。例如，其“AI概(gai)述(shu)”总是摘抄来(lai)自不(bu)同网站的内容，并稍作修改，这种行为也被抨击为“规模化的剽窃”。
人(ren)工智能专家、纽约大学神经科学名誉教(jiao)授加里?马库斯(si)（Gary Marcus）表示，不(bu)少AI厂商(shang)都是在“兜售梦想”，希望更多人(ren)相信这项技(ji)术的正确率终将从80%提升至100%。马库斯(si)强调，初步实现80%的正确率相对简单，因为其中涉及大量人(ren)类数据，其正确率天(tian)然就在这个(ge)区间。但弥合这最后(hou)20%的差距却极具挑战。实际上，马库斯(si)认(ren)为这最后(hou)20%很可能是条死胡同。
在发布“AI概(gai)述(shu)”时(shi)，谷歌曾表示，随着这项功能推广到其他国家，今年年底(di)前“AI概(gai)述(shu)”的服务受众规模将超(chao)过10亿。然而，正如马库斯(si)教(jiao)授所言，谷歌能否保(bao)证“最后(hou)的20%内容正确率”，才是其“AI概(gai)述(shu)”受众规模能否超(chao)过10亿的关键所在。
其实，自OpenAI于2022年年底(di)发布ChatGPT并一夜成(cheng)名以来(lai)，谷歌一直(zhi)面临着将AI整(zheng)合到其搜索技(ji)术中的压力。然而，谷歌在驯服大型(xing)语(yu)言模型(xing)方面存在挑战，这些大模型(xing)是从开放的网络中获(huo)取的大量数据中学习，而不(bu)是像传统软件那样(yang)编(bian)程。
记者|蔡鼎
编(bian)辑|程鹏 兰素英 杜(du)恒峰
校对|段炼
｜每日经济新(xin)闻 nbdnews 原创(chuang)文(wen)章｜
未经许可禁止转载、摘编(bian)、复制及镜像等使用
每日经济新(xin)闻