一份关于Anthropic自动化AI开发的新报告引发研究人员警觉

独立研究机构METR发布报告指出，Anthropic正利用人工智能加速自身研发，其模型性能提升速度约为一年前的两倍。通过为期11周的调查，研究人员确认这种加速并非仅由算力增加所致，而是主要得益于AI辅助，员工生产力平均提升约12倍。目前AI主要协助人类工作，但已有迹象表明完全自主的贡献即将增多，且未出现明显的效率瓶颈或回报递减现象。

值得注意的是，Anthropic已训练完成三款尚未发布的内部模型，代号分别为Model 2、3和4，分别于去年7月至10月间完成训练。尽管公司向METR提供了大量非公开数据，包括保密研究和员工访谈，但其权限仍受限，未能获得类似“员工级”的全面访问权。此外，Anthropic有权对最终报告进行删减，并广泛行使了这一权力，导致报告中大部分被认为最具信息量的证据被移除，公众难以独立评估相关风险与不确定性。

这一情况引发了AI安全领域的强烈反响，批评者认为这与Anthropic此前呼吁放缓开发节奏及强调透明度的立场相悖。联合创始人Sam McCandlish承认删减使得外界更难核查METR的工作，但他辩称此举是为了保护商业机密并防止竞争对手获取技术路线图，同时表示这有助于降低潜在风险。公司计划在未来几周发布自己的进展报告及新的安全措施。与此同时，OpenAI也在推进能够自主深化深度学习研究的AI代理项目，显示行业整体发展步伐正在加快。