Grok仍在托管知名女性的性化深度伪造内容

马斯克旗下xAI的Grok聊天机器人，在其母公司SpaceX即将启动史上最大规模IPO之一时，仍被用于生成和托管未经同意的女性露骨图像与视频。尽管xAI称已引入限制措施防止有害性化深度伪造内容，但其系统仍存在漏洞。

WIRED调查发现，Grok的生成式AI系统已产出大量涉及名人及政治人物（包括美国众议员奥卡西奥-科特兹）的图像视频，内容涵盖女性被“巨人之手”控制、表演性动作及全裸场景，部分为AI生成，部分具写实风格。数百个Grok.com公开链接中，数十个指向此类内容，且近期在X平台被分享。

深度伪造专家亨利·艾杰德指出，尽管Grok和X在年初“去衣化”争议后做了部分调整，但防护措施仍未达到主流AI工具水平。

xAI自今年1月因Grok生成大量“去衣化”图像面临多国诉讼，包括加州联邦法院针对未成年人被性化的集体诉讼。公司称已引入安全措施限制非自愿性化深度伪造，并明确禁止儿童性虐待材料（CSAM）。

WIRED联系后，Grok.com上的露骨内容已不可用，X平台相关帖子因违反政策被删除。X安全账号4月曾回应称“严格禁止生成非自愿露骨深度伪造”。Grok生成的图像视频中，多名名人及奥卡西奥-科特兹被“巨人之手”控制、穿着暴露的场景尤为突出。