主要内容
10月7日，TikTok账号@fujitiva48发布一则用OpenAI最新视频生成工具Sora 2制作的虚假广告，视频中“Vibro Rose”玩具被设计成类似性玩具的形象，引发2000余名观众强烈不满，有人留言“这不好笑，创作者应被调查”。
该虚假广告以“儿童使用粉色闪光玩具”为噱头，实则通过Sora 2生成，一周内已扩散至TikTok推荐页。类似内容还包括玫瑰/蘑菇形状水玩具、喷射“粘性牛奶”的蛋糕装饰器等，均搭配数字合成的儿童形象（非真实儿童）。
英国互联网观察基金会（IWF）数据显示，2025年AI生成儿童性虐待材料（CSAM）举报量较2024年翻倍至426起，56%属最严重类别。目前各国对AI生成未成年人不当内容的法律界定模糊，英国拟在《犯罪与警务法案》中加入修正案，授权检查AI工具是否生成此类内容。
美国已有45州立法禁止AI生成CSAM，OpenAI的Sora 2则通过用户同意机制、禁止成人联系青少年、禁止生成CSAM并向相关机构报告等措施防范风险。