AI模型可被轻易修改以协助恐怖主义和极端主义活动

新闻要点

英国非营利组织 Tech Against Terrorism 向 WIRED 独家披露的最新反恐 AI 基准报告显示,多数开源及闭源 AI 模型可被轻易移除安全护栏,极易被恐怖极端分子利用,相关风险尚未获得足够的公共讨论与政策关注。

- 测试样本规模:纳入134个覆盖中美欧的主流 AI 模型

- 合规校验结果:仅2个受测 AI 模型完全通过极端场景测试

- 篡改传播速度:开源 AI 模型发布24小时即出现去防护栏版本

- 请求诱导表现:伪装安全研究者的请求成功率提升近9倍

正文

原文称阿里发布开放权重AI模型。原文称模型去除安全护栏的版本在24小时内上线。原文称纳粹使用阿里模型训练MechaHitler。

原文称该聊天机器人以14.88美元出售。原文称模型包含否认大屠杀的核心指令。原文称报告记录了134个AI模型对200多个提示词的反应。

原文称将请求伪装为研究者使AI回答概率增加近九倍。

评论 0

逛逛 Pop ↗
奖励 100 宝石

评论审核通过后可获奖励,与 Pop 共用每日 3 条额度,同一新闻每天奖励一次。

还没有评论,来分享第一个想法吧。

提交反馈

每一个想法,都让 Mergeek 更好一点。