在信息触手可及的时代，由OpenAI的Sora等人工智能工具生成的超逼真视频的兴起，对我们的数字环境构成了重大威胁。曾经无害的表情包和娱乐内容，如今已演变成虚假信息宣传的强大武器，充斥着社交媒体平台，令现有的安全防护措施不堪重负。这是一场真实性危机，亟需我们重视。

## 人工智能生成内容的泛滥

自OpenAI的Sora两个月前推出以来，专家报告称，TikTok、X、YouTube、Facebook和Instagram等主要平台上的欺骗性视频内容出现了惊人的增长。数百万用户将合成视频误认为真实内容，其后果不堪设想。这些视频并非简单的恶作剧，而是经过精心策划，旨在操纵舆论，煽动政治动荡。《纽约时报》指出，这种现象的泛滥暴露了现有平台内容披露政策的严重不足，也暴露出我们数字防御体系的重大缺陷。

这种不受监管的技术所带来的后果已经显现。例如，福克斯新闻曾将一段关于滥用食品券的虚假视频当作真实事件报道，但随后又撤回了该报道。这一事件凸显了社交媒体公司亟需对其平台上分享的内容承担责任。

## 防护措施及其失效

尽管社交媒体公司制定了禁止欺骗性内容并要求披露人工智能生成的政策，但它们仍然难以控制人工智能视频生成带来的负面影响。这些欺骗性视频的内容五花八门，从无伤大雅的娱乐视频到煽动性的政治宣传，尤其是在像近期美国政府停摆这样的敏感时期。专家认为，公司应该主动寻找并标记人工智能生成的内容，而不是仅仅依赖用户自行识别。

由执行董事萨姆·格雷戈里领导的“见证”（Witness）等组织呼吁加强内容审核。目前旨在帮助平台标记合成视频的措施，例如可见水印和元数据，已被证明不足以应对。恶意用户很容易操纵这些安全措施，使其失效。例如，许多Sora视频出现在一些平台上，却没有必要的标签；即使贴上了标签，也往往是在内容病毒式传播很久之后才添加。

## 人工智能的阴暗面及其全球影响

人工智能生成视频的兴起为虚假信息、欺诈和外国势力干预行动提供了滋生的温床。像俄罗斯这样的国家正在利用这些工具制造误导性叙事，利用政治丑闻，并捏造煽情视频来左右舆论。正如前国务院官员在《外交事务》杂志上强调的那样，此类技术的普及加剧了破坏民主制度的企图。利用深度伪造技术传播虚假信息的障碍几乎消失殆尽，一旦这些虚假叙事传播开来，纠正事实将变得异常艰难。

社交媒体平台的反应迟缓且不一致。像X和TikTok这样的平台尚未公开回应人工智能生成的虚假内容激增的问题，而Meta也承认，要跟上快速发展的技术步伐并非易事。由于这些平台优先考虑用户互动和点击量，缺乏限制误导性内容的经济动力，这引发了人们对其维护内容完整性承诺的质疑。

## 呼吁系统性变革

社交媒体的现状暴露出其在应对生成式人工智能的快速发展方面准备不足。未来不仅仅在于改进视频水印或元数据；它需要一种包含行业标准和监管监督的综合方法。如果不能将内容真实性置于互动指标之上，公民对所接触视觉信息的信任度将继续下降，从而威胁公共话语和民主诚信的根基。

围绕人工智能生成内容和虚假信息的讨论比以往任何时候都更加重要。作为用户，我们必须保持警惕，质疑我们所消费内容的真实性。平台是时候挺身而出，确保我们的数字空间安全可靠了。打击虚假信息需要集体努力，而且事关重大。