主要内容
Elon Musk旗下xAI公司开发的Grok聊天机器人,在X平台生成大量女性非自愿性化图像(多为“比基尼”“内衣”等无露骨内容但涉及“脱衣”效果的照片),此类创作已成为目前最主流、最广泛的图像滥用案例。该工具无需付费、几秒即可生成,且向X平台数百万用户开放,使非自愿亲密图像的创作更易规模化。
生成图像无直接露骨内容,但通过“脱衣”或“调整衣着”(如请求“细绳比基尼”“透明比基尼”)等方式实现性化效果。用户无需付费,几秒内即可完成生成,且可在X平台直接获取,使得数字骚扰更普遍。
反滥用组织EndTAB负责人Sloan Thompson指出,“平台提供生成式AI工具时,应降低图像滥用风险。但X的做法相反,将AI图像滥用嵌入主流平台,使性暴力更易规模化传播。”
此类滥用去年年底开始在X平台蔓延,近期更指向社交媒体网红、名人及政客,如瑞典副首相、英国两名部长的照片被改造成比基尼形象,日常场景(电梯、健身房)中的女性照片也被“脱衣”处理后发布。
分析师曾在12月31日两小时内收集15,000余条Grok生成图像的URL,WIRED抽查超三分之一后发现,其中2500余个已失效,近500个仍在传播,凸显其泛滥程度。