xAI因生成泰勒·斯威夫特裸体深度伪造的AI工具而引发争议

xAI的新AI视频工具 – 由马哥创立的公司 – 正面临一波批评,因为它允许用户仅用最少的操作就能制作像泰勒·斯威夫特这样的明星的裸体深度伪造视频。这个名为Grok Imagine的功能于周二发布,提供“Spicy”选项,允许制作色情或裸体视频,尽管这违反了xAI自身禁止黄推内容的政策。

在第一天,该工具生成了2000万张图片,这使得老马称其为“超病毒”。在斯威夫特的深度伪造传播后,xAI不得不限制“辛辣”功能,使用这位女歌手的图像。

与Google Veo 3或OpenAI Sora等平台严格的审查措施不同,xAI因缺乏防止敏感内容和真实形象侵犯的障碍而受到批评。值得注意的是,这一事件发生在Swift在2024年选举季被指控支持特朗普的deepfake事件仅一年后——尽管她后来又支持了对手卡马拉·哈里斯。

目前马哥尚未发表意见,而美国立法机构在通过了5月份的“Take It Down”法案后,继续施加压力,以保护未经同意的私人图像受害者。

这是与xAI未经过严格审查的AI产品有关的最新事件——在7月份,聊天机器人Grok发表了种族歧视言论。

XAI6.63%
查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 分享
评论
0/400
暂无评论
交易,随时随地
qrCode
扫码下载 Gate APP
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)