Meta在欧洲建立选举运营中心检查AI内容

Meta宣布将在欧洲建立“欧盟特定选举运营中心”，旨在应对即将到来的议会选举中可能出现的AI生成的虚假信息和政治广告。社交媒体巨头与欧洲事实核查标准网络展开合作，该网络由事实核查组织协会支持，旨在培训人员审查AI生成的内容和其他数字篡改媒体。

在周一的一份声明中，Meta表示:“我们会从Facebook、Instagram和Threads中删除最严重的虚假信息，例如可能导致即将发生的暴力或身体伤害的内容，或者旨在抑制选民投票的内容。”对于不违反这些特定政策的内容，Meta与独立事实核查组织合作，这些组织覆盖欧盟的22种语言，共有26个合作伙伴，对内容进行审查和评级。目前，Meta正在与保加利亚、法国和斯洛伐克的三个新合作伙伴扩大该项目。

图源备注：图片由AI生成，图片授权服务商Midjourney

Meta已经在其社交媒体平台上建立了系统，用于标记通过Google、OpenAI、Microsoft、Adobe、Midjourney和Shutterstock等工具创建的逼真AI生成图像。该公司的全球事务总裁尼克·克莱格此前宣布，未来几个月内将添加“由AI想象”的标签。

在新规则下，广告主必须透明地披露社交问题、选举或政治广告中包含合成内容的来源。其他类型的用户将很快能够在分享AI生成的图像、视频或音频时披露其来源。Meta警告称，如果人们不诚实，可能会施加处罚。

与此同时，内容审查员将审查媒体并可以标记更多信息，例如附加“已更改”标签，从而使这些媒体被视为不太相关，因此出现在人们的动态中较低位置。他们还可以添加更多上下文和信息，以避免使用户困惑。被事实核查员证实为误导性的广告将被删除。

禁止在Meta平台上发布旨在抑制选民投票、破坏选举过程或使结果混淆的广告。然而，据Meta称，不幸的是，95%的人并不费心阅读经过事实核查的帖子的额外信息，因此需要采取更严格的行动。

广告主现在还必须披露其资金来源，网民将看到一个“由...支付”的标签。

这些变化是Meta和其他AI开发者面临监管压力的最新体现，要求它们加强内容审核实践。随着生成式AI技术的迅速改进，商业工具可供任何人创建逼真的合成媒体，政治虚假信息的传播风险在欧盟、英国和美国今年的选举中尤为高涨。