主要内容
据《连线》报道，一家AI图像生成初创公司的系统生成的超100万张图像和视频被暴露，可被任何人在线访问。安全研究员Jeremiah Fowler指出，这些图像中绝大多数含露骨成人内容，部分甚至将儿童面孔与成人裸体身体结合，存在严重未经当事人同意的性内容生成问题。
Fowler称，这是他今年发现的第三个配置错误的AI图像生成数据库，所有数据库均包含未经同意的露骨图像，涉及未成年人和儿童。他强调，“无辜者尤其是未成年人的图像被未经许可用于制作性内容，这是核心问题。”
当前，AI图像工具被广泛用于恶意生成成人露骨图像。数百万用户使用的“脱衣”服务（年入数百万美元）通过AI“移除”照片中女性衣物，导致女性遭受严重虐待。过去一年，利用AI生成儿童性虐待材料的报告翻倍，此类材料涵盖多种涉及儿童的不当图像。
运营MagicEdit和DreamPal的DreamX发言人回应称，“高度重视这些问题”。该公司表示，关联数据库的SocialBook为独立实体，已关闭暴露数据库并展开内部调查，同时暂停产品访问直至调查结束。