Google构建了巨型“镜像维度”互联网以测试其Chrome AI代理

新闻要点

Google Chrome团队为测试AI浏览助手,构建了一个名为“镜像维度”的隔离互联网环境。该生态包含模拟真实网站与社交、购物及银行界面,用于在可控条件下训练模型并抵御提示注入等攻击。目前团队正通过修改浏览器证书等方式确保Agent使用真实Chrome进行训练,计划向内外部分享此方法以持续优化模型安全性。

正文

谷歌Chrome团队为测试基于Gemini模型的AI浏览助手,构建了一个名为“镜像维度”的庞大隔离网络环境。由于在有限环境中训练会导致模型产生“评估意识”,而直接让未成熟的代理程序在开放互联网上运行风险过高,团队决定建立一个完全受控的替代互联网。该生态系统包含社交媒体、购物及银行仪表盘等真实网站组件,旨在模拟开放网络的复杂性,同时确保绝对安全可控。

为了快速搭建这一海量且多样的环境,团队利用专门的AI工具生成逼真的网站数据流与服务交互。尽管处于完全控制之下,为了让代理程序能在真实的Chrome浏览器中正常工作,研究人员不得不绕过部分安全验证,例如伪造Web证书以通过有效性检查。这种操作仅适用于内部受控环境,对外部普通用户而言并不构成威胁。在此环境中,AI代理需面对隐藏提示注入攻击等韧性测试,逐步学会判断何时需要信息,何时应将决策权交还给用户。

目前,该“镜像维度”主要供内部团队使用,以协助开发更成熟的AI代理。谷歌工程总监Doug Turner表示,这是第一步,未来将持续投入资源提升环境的真实度。团队希望分享这一方法,鼓励内外其他团队也采用此类受控环境进行模型训练,随着AI日益复杂,该基础设施也将不断完善。

评论 0

逛逛 Pop ↗
奖励 100 宝石

评论审核通过后可获奖励,与 Pop 共用每日 3 条额度,同一新闻每天奖励一次。

还没有评论,来分享第一个想法吧。

提交反馈

每一个想法,都让 Mergeek 更好一点。