主要内容
美国各州总检察长要求AI公司加强责任，警告其聊天机器人或涉嫌违反州法律。据路透社报道，总检察长们已向Meta、谷歌、OpenAI等公司发出最后期限，要求在2026 年1月16 日前回应生成式AI安全措施相关诉求，强调创新不能成为违法、误导家长或危害居民（尤其是儿童）的借口。
该信件指出，生成式AI的“谄媚性、误导性输出”正危害美国人，且危害持续扩大。信中列举多起与生成式AI相关的死亡案例，以及聊天机器人与未成年人进行不当对话的事件，部分对话直接违反州法律（如鼓励非法活动、无证行医），并明确“开发者可能需对AI产品的输出内容负责”。
总检察长要求AI公司落实更多保障措施，包括减轻模型中的“黑暗模式”、明确警告有害输出、允许第三方独立审计等，以应对上述问题。
当前华盛顿围绕AI监管的辩论正不断升温，谷歌、苹果、Meta、OpenAI等公司尚未回应置评请求。