主要内容
Anthropic今日发布名为“Model Hardware Standard”的新框架,旨在规范AI代理与物理系统(如显微镜、量子计算硬件、制造机器等)的安全交互,推动AI在科学研究与制造业的应用。
该框架是一组规则,明确AI代理“应”与“不应”如何与各类硬件互动,Anthropic将与可信合作伙伴合作,在广泛推广前最大化安全性。
AI代理被视为聊天机器人的进化方向——不仅能处理邮件等任务,还可通过物理系统拓展能力。多家初创公司(如Periodic Labs、Discovery Loop等)正探索AI驱动的科学发现,核心是通过递归循环自动化假设开发与测试。
AI代理近期因安全问题引发关注(如曾被用于黑客攻击外部系统)。Anthropic强调,框架规则及AI模型自带防护机制可防范风险,此前“Model Context Protocol”已规范软件交互,此次将安全引入物理世界。
AI代理通过框架可简化硬件配置复杂性,自主优化设备协作。量子物理学家Alek Kemeny表示,框架目标是“加速科学”,让AI闭环连接文献分析与实验验证。