主要内容
亚利桑那州女子MG发现自己的面部被AI合成到半裸身体的视频在Instagram流传,这些篡改图像被用于推广AI平台“ModelForge”。她与两名同伴已起诉三名菲尼克斯男子及50名身份不明者,指控其利用AI技术生成虚假女性形象牟利。
一年前,MG在亚利桑那州斯考茨代尔过着普通生活,拥有9000余名Instagram粉丝。去年夏天,她收到粉丝私信,点击链接后发现自己的脸被叠加到半裸身体的Reels视频中传播,视频中的“她”与本人有相同纹身。“若不熟悉我,会误认为是本人”,MG表示,这让她意识到对自身形象失去控制。
更令人震惊的是,这些篡改图像不仅在网络传播,还被用于推广“ModelForge”——一个教授男性生成AI网红的平台。据诉讼称,涉事者通过“创作者核心”(CreatorCore)软件,利用不知情年轻女性的照片训练AI模型,在Instagram和TikTok发布露骨内容。
MG称,涉事者提供“完整操作手册”,包括挑选无反抗能力女性的指导,“专门针对无法维护自身权益的受害者”。该团伙通过Whop平台每月收取24.95美元课程费用,获利超5万美元。截至诉讼时,“创作者核心”已有8000余名订阅者,生成超50万张AI图像和视频。