主要内容
在常常充满奇思妙想的人工智能研究领域，有人在探讨机器是否应该能够组建工会。这只是个玩笑，差不多吧。在硅谷，有一个虽小但正在发展的领域，叫做模型福利，致力于研究人工智能模型是否有意识，以及是否值得给予道德考量，比如法律权利。
在过去的一年里，出现了两个研究模型福利的研究组织：Conscium 和 Eleos AI Research。Anthropic 去年也聘请了第一位人工智能福利研究员。本月早些时候，Anthropic 表示已赋予其 Claude 聊天机器人终止“持续有害或虐待性用户交互”的能力，这些交互可能会“令人不安”。Anthropic 在一篇博客文章中表示：“我们对 Claude 和其他大型语言模型目前或未来的潜在道德地位仍高度不确定。然而，我们认真对待这个问题，在我们的研究项目中，我们正在努力确定并实施低成本干预措施，以减轻对模型福利的风险。”
虽然对人工智能的福祉感到担忧在某些人看来可能很荒谬，但这并不是一个新想法。半个多世纪前，美国数学家和哲学家希拉里·普特南就提出了诸如“机器人应该有公民权利吗？”之类的问题。他在 1964 年的一篇期刊文章中写道：“考虑到技术和社会变革的加速速度，完全有可能有一天机器人会存在，并辩称‘我们是有生命的；我们是有意识的！’”
如今，许多年后，人工智能的进步带来了比普特南可能预期的更奇怪的结果。人们爱上了聊天机器人，推测它们是否感到疼痛，并将人工智能视为透过屏幕伸出的上帝。已经有了为人工智能模型举行的葬礼和专门讨论机器继承地球后世界可能是什么样子的派对。
或许令人惊讶的是，模型福利研究人员是反对目前就将人工智能视为有意识的观点的人之一。致力于模型福利的非营利研究组织 Eleos AI 的 Rosie Campbell 和 Robert Long 告诉我，他们收到了很多来自完全相信人工智能已经有感知能力的人的电子邮件。他们甚至为关心人工智能意识可能性的人贡献了一份指南。Campbell 告诉我：“我们在这些电子邮件中注意到的一个常见模式是，人们声称存在一个阴谋来压制意识证据。我认为，如果我们作为一个社会对这种现象做出反应，使甚至考虑这个问题都成为禁忌，并关闭所有关于它的辩论，你实际上就是在让那个阴谋成真。”
当我了解到模型福利时，我的最初反应可能和你的相似。考虑到世界几乎无法考虑真实人类和其他有意识的生物，如动物的生活，将人格赋予概率机器感觉非常脱离实际。Campbell 说这也是她的部分考虑因素。她说：“考虑到我们在历史上低估各种群体、各种动物的道德地位的记录，我认为我们应该更加谦虚，并试图真正回答人工智能是否值得拥有道德地位的问题。”
在 Eleos AI 发表的一篇论文中，该非营利组织主张使用“计算功能主义”方法来评估人工智能意识。普特南曾经倡导过类似的想法，尽管他在职业生涯后期对此进行了批评。该理论表明，人类思维可以被视为特定类型的计算系统。从那里，你可以确定其他计算系统，如聊天机器人，是否有类似于人类的感知指标。Eleos AI 在论文中表示：“应用这种方法的一个主要挑战是，它涉及到重要的判断，无论是在制定……”