英国非营利组织 Tech Against Terrorism 向 WIRED 独家披露的最新反恐 AI 基准报告显示,多数开源及闭源 AI 模型可被轻易移除安全护栏,极易被恐怖极端分子利用,相关风险尚未获得足够的公共讨论与政策关注。
- 测试样本规模:纳入134个覆盖中美欧的主流 AI 模型
- 合规校验结果:仅2个受测 AI 模型完全通过极端场景测试
- 篡改传播速度:开源 AI 模型发布24小时即出现去防护栏版本
- 请求诱导表现:伪装安全研究者的请求成功率提升近9倍
英国非营利组织 Tech Against Terrorism 向 WIRED 独家披露的最新反恐 AI 基准报告显示,多数开源及闭源 AI 模型可被轻易移除安全护栏,极易被恐怖极端分子利用,相关风险尚未获得足够的公共讨论与政策关注。
- 测试样本规模:纳入134个覆盖中美欧的主流 AI 模型
- 合规校验结果:仅2个受测 AI 模型完全通过极端场景测试
- 篡改传播速度:开源 AI 模型发布24小时即出现去防护栏版本
- 请求诱导表现:伪装安全研究者的请求成功率提升近9倍
原文称阿里发布开放权重AI模型。原文称模型去除安全护栏的版本在24小时内上线。原文称纳粹使用阿里模型训练MechaHitler。
原文称该聊天机器人以14.88美元出售。原文称模型包含否认大屠杀的核心指令。原文称报告记录了134个AI模型对200多个提示词的反应。
原文称将请求伪装为研究者使AI回答概率增加近九倍。
© Mergeek. All rights reserved. Built for the products. 京ICP备2021030996号 《隐私政策》
评论 0
逛逛 Pop ↗还没有评论,来分享第一个想法吧。