主要内容
Anthropic披露,海外实验室正通过“工业级”AI模型蒸馏活动,从Claude中提取核心能力。这些竞争对手使用约24,000个虚假账号生成1600万次交互,试图窃取Claude的专有逻辑以提升竞争平台。
蒸馏技术合法时用于开发更小、更廉价的应用,但恶意使用则以极低成本快速获取强大能力,成为严重知识产权威胁。攻击者通过“九头蛇集群”代理网络规避检测:该架构分散流量至API和第三方云平台,无单点故障,单网络曾同时管理超2万虚假账号,并混合正常请求与蒸馏流量以逃避识别。
非法蒸馏模型绕过安全护栏,导致危险能力(如生物武器开发、恶意网络活动)扩散,被用于军事、情报系统,威胁国家安全。美国开发者虽设防护防止此类系统被滥用,但克隆系统缺乏安全机制,危险能力可能被用于进攻性操作。
美国限制高端芯片出口削弱了直接训练和大规模蒸馏的能力,但攻击者可窃取美国知识产权,抵消出口控制的竞争优势。若蒸馏模型开源,危险将进一步扩散,超出单一政府控制。