谷歌最新推出的AI Overviews功能近日在社交媒体上引发了广泛争议。用户纷纷分享AI给出的奇怪建议，比如在披萨上涂胶水和吃石头等，这些内容不仅令人困惑，甚至可能存在危险。这些争议性内容的传播迫使谷歌手动禁用某些特定搜索的AI Overviews功能。
AI Overviews是谷歌于2023年5月推出的搜索生成体验测试版，自上线以来已处理超过10亿次查询。尽管谷歌首席执行官Sundar Pichai表示，通过硬件、工程和技术的突破，公司已将提供AI答案的成本降低了80%，但此次事件显示出技术优化可能过早，产品尚未完全成熟。
AI领域的专家、纽约大学神经科学名誉教授Gary Marcus对The Verge表示，许多AI公司都在“兜售梦想”，希望将技术的准确率从80%提升到100%。他指出，达到最初的80%相对容易，但实现最后的20%极具挑战性，因为这需要AI进行复杂的推理和事实核查，可能需要通用人工智能的能力。
谷歌发言人Meghann Farnsworth在给The Verge的电子邮件中表示，公司正在“迅速采取行动”，根据内容政策删除某些查询的AI Overviews，并利用这些示例对系统进行更广泛的改进。她还提到，许多争议内容都是不常见的查询，有些甚至被篡改或无法重现。
当前，谷歌在AI领域面临激烈的市场竞争，Bing和OpenAI等对手已在前方领先，而年轻用户也越来越多地转向TikTok等新兴平台。尽管谷歌的AI Overviews功能雄心勃勃，但其声誉和成功取决于能否提供基本的准确性和可靠性。
AI Overviews的发布混乱，反映了谷歌在AI领域面临的压力和挑战。尽管谷歌有着宏伟的计划，包括复杂查询的多步推理、生成AI组织的结果页面、Google Lens中的视频搜索等，但当前公司的首要任务是确保AI输出的准确性和安全性，以赢得用户的信任并实现长期目标。
