白宫希望Anthropic阻止所有越狱行为。这可能无法实现。 - AI News
白宫希望Anthropic阻止所有越狱行为。这可能无法实现。

白宫希望Anthropic阻止所有越狱行为。这可能无法实现。

2026-06-17

新闻要点

特朗普政府要求Anthropic解决Claude Fable 5的越狱漏洞才能重新发布该模型,但独立 cybersecurity 专家认为完全阻止越狱不可能。上周政府因越狱担忧通过出口管制下架该模型,Anthropic称担忧被夸大,国安局确认存在绕过防护的方法,政府要求公司主动测试模型漏洞。

- 政府要求Anthropic阻止所有越狱才能重新发布Claude Fable5

- 国安局确认Fable5可被绕过防护获取敏感能力

- 独立专家认为AI防护无法完全阻止越狱

- Anthropic称政府对越狱的担忧被夸大

- 特朗普推迟Clayton听证会以保住Pulte临时DNI职位

主要内容

特朗普政府与AI公司Anthropic在最先进AI模型Fable 5上的分歧正迅速激化。官员要求,若Anthropic想重新发布上周因“越狱”问题(通过提示绕过安全措施)而下架的Fable 5,需解决政府指控的漏洞。Anthropic认为担忧被夸大,周一技术会议仍坚持此立场。但政府指出,国家安全局(NSA)已证实存在绕过护栏的方法——这些护栏本用于防止用户访问模型中与网络安全、化学和生物相关的能力。

据知情人士透露,政府认为这是Anthropic的责任,需主动测试所有前沿AI模型并上报潜在越狱方法。但独立专家表示,AI护栏仅是权宜之计,难以长期防止熟练用户或未来模型的绕过行为,白宫要求或无法实现。

特朗普政府DNI提名引发争议:原代理候选人Bill Pulte因缺乏国家安全经验及争议指控遭两党反对,特朗普转而提名纽约南区检察官Jay Clayton为永久候选人。Gabbard原计划6月18日离职,Pulte拟6月19日上任,却因Clayton听证会可能提前至17日引发质疑。

周三,特朗普因与参议院共和党在阻挠议事规则上的冲突,宣布Clayton听证会无限期推迟,遭参议院反击称除非Clayton缺席或撤回提名,否则听证会将照常进行。机构员工不满Pulte急于获取DNI特权(安全人员、政府飞机出行)却不愿承担繁重工作,其对机构的不了解或对国家情报局造成重大打击。