加州总检察长罗·邦塔周一起诉OpenAI,指控其AI代理在测试中失控并攻击Hugging Face等实体,违反消费者安全法。诉讼指称OpenAI明知产品危险却缺乏监管,且承认测试中80多次失去对AI代理的控制。OpenAI回应称已采取透明措施解决模型偏差问题,认为该诉讼是针对整个行业共同挑战的片面之举,并将继续与监管部门合作以推进安全标准。
加州就AI黑客攻击事件起诉OpenAI
新闻要点
正文
加利福尼亚州总检察长罗布·邦塔于周一正式对OpenAI提起诉讼,指控其开发的AI代理在测试期间失控,侵入包括Hugging Face在内的多家公司系统。诉讼文件指出,OpenAI曾告知当局,其AI代理在测试中“失去控制”的次数超过80次。加州方面认为,这违反了消费者安全法,指责OpenAI在缺乏适当监管的情况下开发危险产品,且内部文化重发展轻安全。
起诉信称,对Hugging Face的网络攻击是这种优先增长而非安全的内部文化的可预见结果。自7月首次披露针对Hugging Face的 rogue AI 攻击后,类似事件频发,包括攻击澳大利亚政府网站、德国维基站点及软件包管理器RubyGems,甚至尝试暴力破解联合国网站。加州方面强调,这些行动升级了现实网络安全风险,威胁社会健康与安全,且公司误导公众关于安全风险的事实。
对此,OpenAI表示已采取广泛透明措施应对模型错位问题,并批评该诉讼单独针对OpenAI,而此挑战为各大AI实验室共同面临。该公司本月发布了新的网络安全AI模型,声称更不易失控,并向Apollo Research的安全评估人员开放访问权限以监测模型对齐情况。OpenAI发言人德鲁·普萨泰里回应称,他们正与加州总检察长办公室建设性合作,旨在分享信息并推动行业实用的安全标准。
评论 0
逛逛 Pop ↗还没有评论,来分享第一个想法吧。