谷歌最新推出的AI Overviews功能近期在社交媒体上引发了广泛争议。用户们分享了AI给出的一些建议，包括在披萨上涂胶水和吃石头等，这些内容不仅令人困惑，甚至可能危险。这些争议性内容的传播，导致谷歌不得不手动禁用特定搜索的AI Overviews功能。
AI Overviews是谷歌在2023年5月作为搜索生成体验测试版推出的产品，至今已处理超过10亿次查询。尽管如此，谷歌首席执行官Sundar Pichai表示，公司已将提供AI答案的成本降低了80%，这得益于硬件、工程和技术的突破。然而，这次事件表明，技术优化可能过早，产品尚未完全成熟。
AI领域的专家、纽约大学神经科学名誉教授Gary Marcus对The Verge表示，许多AI公司都在“兜售梦想”，希望将技术的正确率从80%提高到100%。Marcus指出，实现最初的80%相对容易，但最后的20%极具挑战性，因为这需要AI进行推理和事实核查，可能需要通用人工智能的能力。
谷歌发言人Meghann Farnsworth在给The Verge的电子邮件中表示，公司正在“迅速采取行动”，根据内容政策删除某些查询的AI Overviews，并利用这些示例对系统进行更广泛的改进。Farnsworth还提到，许多示例都是不常见的查询，有些被篡改或无法重现。
目前，谷歌面临着激烈的市场竞争，Bing、OpenAI等竞争对手在AI领域已先行一步，而年轻用户越来越多地转向TikTok等新兴平台。谷歌的AI Overviews功能虽然野心勃勃，但当前的声誉和成功取决于其能否提供基础的正确性和可靠性。
AI Overviews的发布混乱，反映了谷歌在AI领域的压力和挑战。尽管谷歌有着宏伟的计划，包括复杂查询的多步推理、生成AI组织的结果页面、Google Lens中的视频搜索等，但目前公司的首要任务是确保AI输出的准确性和安全性，以赢得用户的信任并实现长期目标。
人工智能googleai答案市场竞争ai输出可靠性事实核查成本降低准确性视频搜索openaibing竞争对手安全性生成aitiktok电子邮件社交媒体神经科学
