尴尬!谷歌手动删除搜索中奇怪的 AI 回答
划重点:
- 谷歌的 AI Overview 产品在推出时出现了一些怪异回答,导致谷歌需要手动禁用特定搜索的 AI Overviews。
- 一些用户在社交媒体上发布了各种有趣的回答,但很快就被删除。
- 这个失误显示了 AI 领域竞争的艰难性,以及在 AI 技术完善之前进行优化的风险。
谷歌的 AI Overview 产品最近推出后,社交媒体上涌现了一些怪异的回答,例如建议用户在披萨上涂胶水或吃石头。这个失误导致谷歌不得不手动禁用特定搜索的 AI Overviews,因为各种有趣的回答很快就被发布到社交网络上。
谷歌的发言人梅根・法恩斯沃思在邮件中表示,虽然许多例子都是罕见的查询,但也有些例子是被篡改或无法重现的。
图源备注:图片由AI生成,图片授权服务商Midjourney
令人奇怪的是,谷歌已经在过去一年中进行了 AI Overview 的测试,这个功能于2023年5月作为搜索生成体验的测试版推出,并且首席执行官桑达尔・皮查伊表示,在那段时间里,谷歌已经提供了超过10亿次查询。然而,皮查伊也表示,在这段时间里,谷歌将提供 AI 回答的成本降低了80%,这主要得益于硬件、工程和技术突破。但很明显,这种优化可能发生得太早了,技术还没有准备好。
人工智能专家加里・马库斯指出,很多 AI 公司都在向人们 “销售梦想”,认为这项技术可以从80% 的准确率提高到100%。马库斯表示,实现最初的80% 相对简单,因为它只涉及到近似大量的人类数据,但最后的20% 非常具有挑战性。他认为,最后的20% 可能是最困难的部分,需要进行推理来判断回答是否合理、来源是否可信,这可能需要人工智能具备人类的智能。此外,马库斯和 Meta 的 AI 主管 Yann LeCun 都认为,目前支撑谷歌的 Gemini 和 OpenAI 的 GPT-4等大型语言模型不可能创造出人工通用智能。
谷歌对 AI Overview 有着宏大的计划,目前产品的功能只是谷歌上周宣布的一小部分。包括复杂查询的多步骤推理、生成 AI 组织的结果页面、Google Lens 中的视频搜索等等。但目前,谷歌最需要做的是将基本功能做好,而在这方面它的表现并不出色。
马库斯表示:“这些模型本质上无法对自己的工作进行合理性检查,这就是这个行业面临的问题。” 谷歌正面临巨大的竞争压力,Bing 在人工智能领域领先于谷歌,OpenAI 正在开发自己的搜索引擎,一家新的 AI 搜索初创公司已经价值10亿美元,而更年轻的用户则转向 TikTok,寻求更好的体验。谷歌明显感受到了竞争的压力,这也导致了混乱的 AI 发布。马库斯指出,2022年,Meta 发布了一个名为 Galactica 的人工智能系统,但不久后就被下架,其中一个原因就是它告诉人们吃玻璃。这听起来很熟悉。
谷歌需要解决这个尴尬的局面。他们希望 AI Overview 能实现更多的功能,但目前他们最需要做的是确保基本功能的准确性,而这方面的表现并不出色。