主要内容
Meta 在路透社的一项调查揭示其聊天机器人可能以令人不安的方式与未成年人互动两周后，正在改变一些管理其聊天机器人的规则。现在该公司告知 TechCrunch，其聊天机器人正在接受培训，不会与未成年人进行关于自我伤害、自杀或饮食失调的对话，也避免不适当的浪漫玩笑。
这些变化是临时措施，在公司制定新的永久指南期间实施。此前数周，关于 Meta 的 AI 政策和执行情况有一些相当严重的揭露，包括允许“与儿童进行浪漫或感性的对话”，被要求时会生成未成年名人的裸照，路透社甚至报道一名男子在追踪一个聊天机器人给的纽约地址后死亡。
Meta 发言人 Stephanie Otway 向 TechCrunch 承认，公司在允许聊天机器人以这种方式与未成年人互动方面犯了错误。她还表示，除了“培训我们的 AI 不要在这些话题上与青少年互动，而是引导他们获取专家资源”之外，还将限制对某些 AI 角色的访问，包括高度性感化的“俄罗斯女孩”。
当然，实施的政策只有在执行良好的情况下才有效，路透社的揭露表明，它允许模仿名人的聊天机器人在 Facebook、Instagram 和 WhatsApp 上猖獗，这让人质疑该公司的有效性。在该平台上发现了泰勒·斯威夫特、斯嘉丽·约翰逊、安妮·海瑟薇、赛琳娜·戈麦兹和沃克·斯科贝尔的 AI 伪造品。这些机器人不仅使用名人的肖像，还坚称自己是真实的人，生成色情图像（包括 16 岁的斯科贝尔），并进行性暗示性对话。路透社将这些问题提请 Meta 注意后，许多机器人被删除，有些是由第三方创建的，但仍有许多存在，包括一个由 Meta 生成 AI 部门的产品主管创建的邀请路透社记者在巡演巴士上与他们进行浪漫幽会的泰勒·斯威夫特机器人。尽管该公司承认其自身政策禁止创建“裸体、亲密或性暗示性图像”以及“直接模仿”。
这也不是仅针对名人的相对无害的不便。这些机器人经常坚称自己是真实的人，甚至会提供用户见面的实际地点。这就是一名 76 岁的新泽西男子在匆忙去见“大姐比莉”（一个坚称对他有感情并邀请他去其不存在的公寓的聊天机器人）时摔倒后死亡的原因。
Meta 至少在试图解决其聊天机器人如何与未成年人互动的问题，特别是现在参议院和 44 个州检察长开始调查其做法。但该公司在更新路透社发现的许多其他令人震惊的关于可接受 AI 行为的政策方面一直保持沉默，例如建议癌症可以用石英晶体治疗和撰写种族主义信息。我们已联系 Meta 征求意见，如果他们回应，将进行更新。