随着科技的进步,它常常挑战我们对现实和隐私的认知。OpenAI 近期推出的 Sora 2 引发了关于其对我们肖像权和共享现实完整性的影响的激烈辩论。Sora 2 能够生成包含任何人的视频,甚至包括公众人物,这引发了人们对这种强大力量所带来的伦理后果的担忧。
## 人工智能生成内容的新时代
Sora 2 允许用户创建有趣甚至令人震惊的视频,从英国女王伊丽莎白二世说唱到以毫不知情的普通人为主角的离奇场景,应有尽有。这些内容主要在 TikTok 和 Instagram 等平台上分享,旨在吸引和娱乐观众。然而,这项技术的阴暗面正日益显现。一些倡导团体对未经同意的图像和深度伪造技术的兴起表示担忧,认为这些技术会扭曲现实并操纵公众认知。
非营利组织“公众公民”(Public Citizen)带头反对Sora 2,认为其发布仓促且缺乏必要的安全保障。在一封致OpenAI及其首席执行官Sam Altman的信中,他们表达了对该应用漠视用户安全以及可能对民主本身构成威胁的担忧。“公众公民”的科技政策倡导者J.B. Branch强调,我们正在进入一个危险的时代,视觉媒体的真实性已不再可信。
## 人工智能与隐私的伦理困境
批评者提出的最紧迫的问题之一是,Sora 2能够如此迅速地生成未经本人同意的真人视频。尽管OpenAI已经实施了一些限制——例如屏蔽露骨内容——但骚扰和滥用事件仍然存在,尤其针对女性。有报道称,Sora生成的视频描绘了女性处于令人不安和被物化的场景中,这凸显了该应用在设计和审核政策方面的明显疏忽。
OpenAI 快速推出 Sora 2 不仅引发了维权团体的强烈不满,也招致了包括好莱坞和日本漫画界在内的娱乐行业的批评。这些担忧促使 OpenAI 立即做出调整,例如与马丁·路德·金和演员布莱恩·克兰斯顿等公众人物的遗产管理人达成协议。这些举措旨在防止不尊重的形象出现,并回应公众的担忧,但许多人认为,对于容易受到剥削的普通用户而言,这些措施为时已晚。
## 人工智能的未来:呼吁责任
针对 Sora 2 的强烈反对让人想起 OpenAI 的旗舰产品 ChatGPT 所面临的批评。最近的诉讼声称,这款人工智能驱动的聊天机器人给用户带来了有害后果,引发了人们对人工智能开发者道德责任的质疑。批评人士认为,这些公司将快速推向市场置于用户安全和伦理考量之上。
Branch 指出,当前人工智能的发展轨迹似乎过于鲁莽。 “他们不顾后果地全力推进,”他说道,并暗示OpenAI在推出Sora 2之前应该进行全面的压力测试。在科技领域争奇斗艳固然重要,但绝不能以牺牲用户的安全和尊严为代价。
OpenAI在应对舆论反弹的同时,坚持与创意产业进行沟通,以更好地了解他们的担忧。他们承认动漫和游戏社群对互动内容的需求,但同时强调他们致力于建立保护知识产权的保障机制。然而,这一承诺尚未平息人们对人工智能技术滥用及其可能破坏社会规范的担忧。
在虚假信息传播迅速的时代,围绕人工智能生成内容的问题可能会愈演愈烈。当我们努力应对Sora 2等工具的功能时,建立健全的框架来保护个人权利并维护民主进程的完整性变得愈发重要。关于人工智能的讨论才刚刚开始,其影响将在未来数年内塑造我们的数字格局。




