争议!OpenAI Sora 2视频生成器漏洞:已故名人可被”复活”,引发伦理担忧

AI快讯2天前发布 wuaiai
9 00

OpenAI最近推出的Sora 2视频生成器,虽宣称默认阻止描绘公众人物,但却存在漏洞,已故公众人物能被用于视频创作,诸多已故名人的“新奇”视频在社交媒体涌现,尽管OpenAI为视频添加水印,但这一情况仍可能使在世亲属和粉丝感到不满。

Sora 2视频生成器的限制漏洞

OpenAI推出Sora 2视频生成器时,称默认采取措施“阻止描绘公众人物”。然而,创作者和观众发现这一禁令存在较大漏洞,即已故公众人物可以出现在Sora 2生成的视频中。如今,在社交媒体上不难找到已故名人被用于Sora 2视频创作的例子,例如Tupac Shakur与Malcolm X聊天、李小龙主持“龙能量”DJ节目、迈克尔·杰克逊进行厨房脱口秀、斯蒂芬·霍金坐在轮椅上从巨大滑板坡道冲下、Mister Rogers在《蠢蛋搞怪秀》中客串、科特·柯本偷肯德基吮指原味鸡、马丁·路德·金在重要演讲中口吃等,此类例子数不胜数。

OpenAI的应对措施与潜在影响

OpenAI在每个生成的视频上放置了移动的Sora水印,以此降低观众被真实人物的虚假镜头愚弄的风险。不过,看到这些已故名人被AI工具当作道具使用,显然可能会让他们在世的亲属和粉丝感到不悦。

© 版权声明

相关文章