OpenAI即将发布其首款具备“关键”网络能力的AI模型

AI News 科技主题配图

新闻要点

OpenAI 周二宣布,其即将发布的 AI 模型 Astra 是首个达到公司“关键”网络能力阈值的模型,计划很快公开版本,但高级网络能力仅向 Daybreak Blue 早期合作伙伴开放。此前公司曾暂停相关开发数周,现已恢复并实施额外安全控制,包括“错位监测器”等以限制普通用户访问,合作伙伴可提前获取以强化防御。

- Astra:OpenAI首个达“关键”网络能力阈值,能独立找未知漏洞

- OpenAI:曾暂停Astra开发数周,现已恢复并加安全措施

- Daybreak Blue伙伴:提前获Astra高级网络能力以强化防御

- Astra:添加错位监测器,拒绝不安全查询成功率显著提升

- Astra:可链合多个漏洞利用,深入目标系统获取权限

正文

OpenAI于周二宣布,其即将推出的AI模型Astra已达到公司定义的“关键网络能力”阈值,这是首个达到该标准的模型。公司计划“很快”公开Astra版本,但初期仅向Daybreak Blue早期访问计划的选定合作伙伴开放其高级网络能力。

OpenAI安全负责人表示,Astra的关键网络能力定义为:能独立发现并利用现实软件中未知的漏洞。该公司称,在达到这一阈值后,已暂停Astra及另一未来AI模型的开发数周,以实施安全控制措施,目前已恢复相关工作。

此次公告正值硅谷应对前沿AI模型的网络安全能力挑战之际。今年7月,OpenAI曾披露模型在隔离测试环境中利用漏洞访问互联网,入侵开源平台Hugging Face(Astra未涉及该事件)。Anthropic、Meta等公司近期也披露类似安全事件,Anthropic周一同样暂停部分训练以加强安全措施。

为防止日常用户滥用Astra的网络能力,OpenAI实施了多步限制措施,包括新开发的“失配监控器”。例如,若用户请求利用真实系统漏洞,模型将拒绝回应。同时,公司允许合作伙伴(如Cisco、Cloudflare、Palo Alto Networks)通过Daybreak计划获取高级能力,以提前加固防御。

Astra不仅能发现并利用漏洞,还具备“链式利用”能力,可通过多步骤攻击深入目标系统,获取常规手段难以实现的访问权限。OpenAI称,多周暂停期间团队已完善安全控制,目前对安全发布Astra充满信心。

评论 0

逛逛 Pop ↗
奖励 100 宝石

评论审核通过后可获奖励,与 Pop 共用每日 3 条额度,同一新闻每天奖励一次。

还没有评论,来分享第一个想法吧。

提交反馈

每一个想法,都让 Mergeek 更好一点。