主要内容
10 月 13 日起，一项旨在规范日益增长的陪伴型 AI 聊天机器人行业的法案在加利福尼亚州成为法律。加州州长加文·纽森签署了参议院第 243 号法案，该州参议员安东尼·帕迪拉称其为“全国首例 AI 聊天机器人保障措施”。
新法律要求陪伴型聊天机器人开发者实施新的保障措施，例如“如果与陪伴型聊天机器人互动的合理人会被误导，以为自己在与人类互动”，那么新法律要求聊天机器人制造商“发布明确且显著的通知”，表明该产品是严格的 AI 而非人类。
从明年开始，该立法将要求一些陪伴型聊天机器人运营商向自杀预防办公室提交年度报告，说明他们已实施的“用于检测、删除和应对用户自杀意念实例的保障措施”，该办公室需要在其网站上发布此类数据。
纽森在签署该法案的声明中表示：“像聊天机器人和社交媒体这样的新兴技术可以激励、教育和连接人们——但如果没有真正的护栏，技术也可能利用、误导和危及我们的孩子。我们可以继续在 AI 和技术领域引领，但我们必须负责任地这样做——在每一步都保护我们的孩子。我们孩子的安全是不容出售的。”
此前，纽森州长已正式签署参议院第 53 号法案，即具有里程碑意义的 AI 透明度法案，该法案在 AI 公司中引发分歧，并成为数月来的头条新闻。