主要内容
2024 年 5 月，当我梳理 OpenAI 的“模型规范”以了解 ChatGPT 应如何表现时，文档中的一条评论让我觉得很奇怪。它称 OpenAI 正在“探索”如何让成年 ChatGPT 用户生成具有成熟主题的内容，如“色情、极端暴力、辱骂和未经请求的亵渎”。似乎探索阶段已经结束。OpenAI 首席执行官山姆·奥特曼最近在社交媒体上发布，今年 12 月 ChatGPT 的更新将允许聊天机器人参与“更多”类型的内容，如“经过验证的成年人的色情内容”。在后续的帖子中，奥特曼表示，色情只是 OpenAI 更大的“成年人自由”立场的一个方面，他的初创公司“不是世界的道德警察”。OpenAI 取消对成熟内容的这些限制，不仅将改变该机器人可为其数百万成年用户生成的内容。ChatGPT 的欲望时代将是人们与 AI 工具建立联系方式的重大调整，为互动增加了另一层诱人的因素，可能会让用户留在平台上。加州理工学院专注于 AI 和依恋的研究员朱莉·卡彭特表示：“这使人们与聊天机器人分享非常私密信息的行为正常化。分享你最内心的想法、欲望、性倾向、癖好和冒险经历。”这一决定对该初创公司来说是一个重大转变，该公司此前曾试图阻止其 AI 工具生成淫秽内容。过去，至少有一位使用 OpenAI 模型构建 X 级伴侣的开发者收到了该公司的停止和禁止信。OpenAI 承认收到了《连线》杂志提出的一系列关于 ChatGPT 计划变更的详细问题清单，但未发表评论或回答我们的问题。OpenAI 的领导层声称坚决不做出旨在增加 ChatGPT 参与度和用户在平台上花费时间的产品决策，甚至会提醒高提示用户休息。相比之下，独立记者克利奥·艾布拉姆斯在 8 月的播客中询问奥特曼，OpenAI 做出的哪些选择可能对人类最有利，但对想要主导生成式 AI 的公司来说不是最佳决策。奥特曼表示：“有很多事情我们可以做，这将使我们发展得更快，在 ChatGPT 上获得更多时间。”当被追问具体例子时，他想了一会儿，回答说他们没有添加“性机器人头像”，这可能是对 xAI 的色情动漫伴侣的抨击，该伴侣几周前已经推出。那么，“性机器人”与生成“色情内容”的聊天机器人有何不同呢？确切含义难以捉摸。卡彭特表示：“山姆·奥特曼一直说色情，但这非常模糊。”她强调了奥特曼“陈旧的用词选择”如何与人类撰写的色情文学、艺术性质相联系。这可能比其他明确的术语如色情更能被公众接受。目前尚不清楚 OpenAI 的审核更新是否将包括仅通过文本生成的内容，或是否包括其他方面，如 AI 图像和语音。如果 OpenAI 决定在此次更新中不包括 AI 图像，该公司可以避免对经常用于骚扰女性和女孩的色情深度伪造的传播的担忧。OpenAI 如何在实践中决定定义其更新的审核方法，将对塑造最新的、可能最令人兴奋的 ChatGPT 迭代至关重要。虽然讨论禁忌，但用户尝试与非人类技术进行性互动是很常见的。伦敦国王学院的 AI 和社会教授凯特·德文表示：“人们一直试图对机器说脏话。我们在语音助手方面也有过这种情况。所以，这并不令人惊讶。他们正在满足人们的需求。”卡彭特认为，社交媒体和其他形式的“计算机介导通信”的兴起