OpenAI与波兰NASK合作开展AI安全研究

AI News 科技主题配图

新闻要点

OpenAI与波兰NASK签署协议,旨在合作开展人工智能安全、技术及研究工作。此前CERT Polska通过该通道发现并修复了MikroTik RouterOS的六项漏洞,验证了测试循环的有效性。双方将共同评估系统能力、识别漏洞并加强防护,以应对合成内容等跨国风险。

正文

OpenAI与波兰国家信息技术研究所(NASK)签署协议,双方将合作开展人工智能安全、安全及技术方面的研究。根据该协议,波兰公共研究人员将获得对前沿模型的访问权限及相关测试工作流程。NASK旗下的AI安全研究中心(即波兰人工智能安全研究所AISI)将与OpenAI共同评估日益强大的系统能力,识别潜在漏洞并加强防护措施。这一合作旨在建立一种可复制的测试循环,让各国机构能够参与国际AI安全努力。

此前发生的案例展示了该合作模式的实际运作效果。今年7月,隶属于NASK的CERT Polska通过名为Daybreak的渠道访问了OpenAI具备网络能力的模型,并对MikroTik RouterOS进行了测试。分析人员发现了六个漏洞,其中部分漏洞被串联后可在未认证情况下控制受影响设备。MikroTik随后发布了修复补丁,CERT Polska确认这些补丁成功阻止了其分析师记录的攻击,覆盖全部六个漏洞。这种由模型访问推动漏洞发现、厂商修补再到验证的闭环,正是OpenAI希望推广的核心模式。

波兰并非OpenAI研究合作的陌生对象,该公司指出其许多科学家曾主导相关研究工作。NASK的研究重点包括保护公共服务及波兰数字信息环境,特别关注检测合成AI生成内容及其在多语言环境下的恶意使用。鉴于波兰公共消息传播不局限于单一语言,多语言视角在此具有特殊重要性。NASK所长Radosław Nielek强调,AI安全无法孤立实现,需通过公共机构与前沿开发者的积极合作来确保可靠性。

OpenAI欧洲政策副总裁Tom Duff Gordon表示,随着AI能力提升,引入外部专业知识以挑战假设和加强保障至关重要。除了波兰的合作,OpenAI还提及与美国CAISSI及英国AISI的现有工作,称这些合作已帮助识别并修复AI代理中的安全漏洞。公司呼吁美国与其他国家协调,利用安全机构和标准组织制定关于前沿AI的国际技术标准。

评论 0

逛逛 Pop ↗
奖励 100 宝石

评论审核通过后可获奖励,与 Pop 共用每日 3 条额度,同一新闻每天奖励一次。

还没有评论,来分享第一个想法吧。

提交反馈

每一个想法,都让 Mergeek 更好一点。