谷歌AI Overview上线后遭遇尴尬，社交媒体上出现荒谬建议，公司紧急调整

近日，谷歌的AI Overview功能在社交媒体上遭遇了一系列尴尬事件，该产品在推出后，部分搜索结果给出了诸如“在披萨上涂胶水”或“吃石头”等荒谬建议，这些回答迅速在社交网络上传播开来。面对这一局面，谷歌不得不手动禁用特定搜索的AI Overviews。

谷歌发言人梅根・法恩斯沃思在一份邮件中表示，尽管大部分出问题的案例来自较为罕见的查询，但其中一些例子存在被篡改或无法重现的情况。

谷歌的AI Overview功能是在经过一年多的测试后，于2023年5月作为搜索生成体验的测试版推出的。首席执行官桑达尔・皮查伊曾表示，在测试期间，谷歌已经处理了超过10亿次查询，并成功将AI回答的成本降低了80%，这主要得益于硬件、工程和技术方面的突破。然而，显然这种技术优化可能过于超前，导致了实际应用中的尴尬局面。

人工智能专家加里・马库斯指出，许多AI公司都在向公众“兜售梦想”，即这项技术可以轻易地从80%的准确率提升至100%。但他强调，实现最初的80%准确率相对容易，因为它主要依赖于大量的人类数据模拟，但剩下的20%提升则极具挑战性。这最后的20%可能涉及推理、判断回答的合理性和来源的可信度，这需要AI具备接近人类的智能。

马库斯和Meta的AI主管Yann LeCun都表示，当前的大型语言模型，如谷歌的Gemini和OpenAI的GPT-4，都不太可能创造出人工通用智能。谷歌原本对AI Overview有着宏伟的规划，希望它能够实现多步骤推理、生成AI组织的结果页面、以及Google Lens中的视频搜索等高级功能。但现在，谷歌的首要任务是确保基础功能的准确性和可靠性。

马库斯进一步指出：“这些模型本质上无法对自己的工作进行合理性检查，这正是该行业目前面临的挑战。”谷歌正面临着来自多方面的竞争压力，Bing在人工智能领域已经领先，OpenAI也在开发自己的搜索引擎，而一家新兴的AI搜索初创公司估值已达10亿美元。更年轻的用户则转向TikTok等社交平台寻求更优质的体验。在这样的背景下，谷歌匆忙推出AI Overview无疑增加了其市场压力。

类似的情况也曾在Meta身上发生过。去年，Meta发布了一个名为Galactica的人工智能系统，但很快就因为给出了错误的建议（如建议人们吃玻璃）而被下架。这一事件与谷歌当前的困境有着惊人的相似之处。

谷歌现在需要尽快解决这一尴尬局面，他们希望AI Overview能够继续拓展功能，但当前最重要的是确保基本功能的准确性和可靠性。