主要内容
周二，OpenAI 宣布为 ChatGPT 推出新的青少年安全功能，这是其应对有关未成年人与聊天机器人互动担忧的持续努力的一部分。该公司正在构建一个年龄预测系统，以识别用户是否未满 18 岁，并将其引导至“适合年龄”的系统，该系统会屏蔽色情内容。如果系统检测到用户有自杀或自残倾向，它将联系用户的父母。在紧急危险情况下，如果无法联系到用户的父母，系统可能会联系当局。在关于该公告的博客文章中，首席执行官山姆·奥特曼写道，公司正试图平衡自由、隐私和青少年安全。“我们意识到这些原则存在冲突，并非所有人都同意我们如何解决这种冲突，”奥特曼写道，“这些是艰难的决定，但在与专家交谈后，我们认为这是最好的，并希望在我们的意图上保持透明。”
虽然 OpenAI 倾向于优先考虑成年用户的隐私和自由，但该公司表示，对于青少年，它将安全放在首位。到 9 月底，该公司将推出家长控制功能，以便家长可以将孩子的账户与自己的账户关联，从而管理对话并禁用功能。根据公司的博客文章，家长还可以在“系统检测到他们的孩子处于极度痛苦时刻”时收到通知，并设置孩子使用 ChatGPT 的时间限制。
这些举措出台之际，关于人们在与 AI 聊天机器人进行长时间对话后自杀或对家庭成员实施暴力的令人深感不安的头条新闻不断涌现。立法者已经注意到这一点，Meta 和 OpenAI 都受到了审查。本月早些时候，据彭博社报道，联邦贸易委员会要求 Meta、OpenAI、谷歌和其他 AI 公司提供有关其技术如何影响儿童的信息。
与此同时，OpenAI 仍在法院命令下被要求无限期保存消费者聊天记录——据我与之交谈的消息来源称，该公司对此极为不满。今天的新闻既是朝着保护未成年人迈出的重要一步，也是一种精明的公关举措，旨在强化与聊天机器人的对话是如此私人，以至于只有在最极端的情况下才应侵犯消费者隐私的观点。
从我在 OpenAI 交谈过的消息来源来看，保护用户的负担沉重地压在许多研究人员身上。他们希望创建一个有趣和吸引人的用户体验，但它很快就会变成灾难性的谄媚。OpenAI 等公司采取措施保护未成年人是积极的。与此同时，在没有联邦法规的情况下，仍然没有任何东西迫使这些公司做正确的事情。在最近的一次采访中，塔克·卡尔森敦促奥特曼确切回答是谁在做出影响我们其他人的这些决定。OpenAI 首席执行官指出是模型行为团队，该团队负责为某些属性调整模型。“我认为你应该对这些决定负责的人是我，”奥特曼补充道，“就像，我是公众人物。最终，我是可以推翻其中一个决定或我们的董事会的人。”他是对的，但一些迫在眉睫的危害似乎他没有意识到。
在另一次与 YouTuber Cleo Abrams 的播客采访中，奥特曼表示，“有时我们确实会受到诱惑”推出“会真正促进增长”的产品。他补充道：“我们还没有在 ChatGPT 中推出性机器人头像。”然而！多么奇怪。OpenAI 最近发布了关于谁使用 ChatGPT 以及他们如何使用它的研究。该研究排除了 18 岁以下的用户。我们还没有完全了解青少年如何使用 AI，在情况变得更严重之前，这是一个重要的问题需要回答。
埃隆·马斯克的 xAI 正在起诉一名离开公司加入 OpenAI 的前员工，在一份投诉中称他挪用了商业秘密和机密信息。