主要内容
据三位知情人士透露,特朗普政府周一与AI公司Anthropic的谈判未解除上周因越狱担忧对其先进模型Fable 5实施的出口管制。双方仍在就解决安全护栏问题展开协商。
谈判由特朗普政府官员与Anthropic联合创始人兼首席计算官Tom Brown、对外事务主管Sarah Heck等主导。参与方还包括司法部、商务部及国家安全局(NSA),Anthropic的前沿红队负责人Logan Graham和安全研究员Nicholas Carlini也飞往华盛顿参与谈判。
政府担忧Fable 5存在越狱漏洞,可能被用于规避安全限制;Anthropic则表示担忧被夸大,称其模型的安全护栏并未失效。双方均表态将尽快解决分歧,Anthropic发言人称“正快速推进问题解决”,白宫未回应置评请求。
商务部愿在Anthropic完全解决越狱担忧后,恢复Fable 5的消费者使用权限,但具体步骤尚未明确。此次谈判正值Anthropic与五角大楼就军事AI应用展开长期争议之际,此前亚马逊CEO Andy Jassy曾直接联系财政部,引发政府对模型漏洞的警觉。
目前,双方谈判结果尚未明朗,后续进展仍待观察。