旧金山要求苹果和谷歌从应用商店删除AI‘Nudify’应用

旧金山检察官周四向苹果和谷歌发送停止令，要求下架13款可生成非自愿裸照的换脸应用，并停止从这类有害技术中获利。

旧金山城市检察官David Chiu在致两公司的法律通知中指出，生成非自愿亲密图像属违法有害行为，完全不可接受。他强调苹果和谷歌可能通过这些应用的内购分成获利数百万，应加强审核机制，从源头阻止此类应用上架。

加州法律明确禁止支持深度伪造色情内容的服务。涉事应用通过应用内支付盈利，而科技公司从中抽取分成。Chiu表示，“全球最大科技公司参与此类行为必须停止”。

谷歌回应称，已删除数百个含换脸脱衣功能的违规应用，包括此次标记的5款安卓应用，且持续检测移除有害内容。苹果暂未回应置评请求。

研究显示，这类应用可生成逼真的AI色情内容，已在至少90所学校发现未成年人受害者案例，用于欺凌、羞辱，导致受害者自杀。Chiu指出，此类图像严重损害受害者名誉、心理健康，甚至引发自杀。