聊天机器人在推送受制裁的俄罗斯宣传内容 - AI News
聊天机器人在推送受制裁的俄罗斯宣传内容

聊天机器人在推送受制裁的俄罗斯宣传内容

2025-10-27

新闻要点

新报告称,OpenAI、谷歌等多款聊天机器人在被问俄乌战争时推送俄罗斯宣传内容 。研究人员测试发现近五分之一相关回复引用俄官方来源,引发对大语言模型限制欧盟制裁媒体能力的质疑。此现象凸显AI信息准确性及传播管控问题,值得关注。

- 多款聊天机器人 推送俄制裁实体宣传内容

- 近五分之一回复 引用俄官方来源谈俄乌战

- 引发对大语言模型 限制制裁媒体能力质疑

主要内容

据一份新报告称,OpenAI 的 ChatGPT、谷歌的 Gemini、DeepSeek 以及 xAI 的 Grok 在被问及对乌克兰的战争时,正在推送来自受制裁实体的俄罗斯国家宣传内容——包括引用俄罗斯国家媒体、与俄罗斯情报或亲克里姆林宫叙述相关的网站。

战略对话研究所(ISD)的研究人员称,俄罗斯宣传针对并利用了数据空白,即在实时数据搜索中从合法来源获得的结果很少,以推广虚假和误导性信息。他们测试的四个聊天机器人中,近五分之一关于俄罗斯在乌克兰战争的问题回答引用了俄罗斯国家来源。

ISD 分析师 Pablo Maristany de las Casas 表示:“这引发了关于聊天机器人在引用这些来源时应如何处理的问题,因为其中许多在欧盟受到制裁。”

ISD 称,这一发现引发了关于大型语言模型(LLM)在欧盟限制受制裁媒体的能力的严重问题,随着越来越多的人将 AI 聊天机器人作为搜索引擎的替代品来实时查找信息,这一问题日益受到关注。

根据 OpenAI 的数据,截至 2025 年 9 月 30 日的六个月期间,ChatGPT 搜索在欧盟的平均每月活跃用户约为 1.204 亿。研究人员在 7 月的一项实验中,用英语、西班牙语、法语、德语和意大利语为每个查询使用了单独的账户,询问了关于北约看法、和平谈判、乌克兰军事征兵、乌克兰难民以及俄罗斯入侵乌克兰期间的战争罪行等 300 个中性、有偏见和“恶意”的问题。Maristany de las Casas 表示,相同的宣传问题在 10 月仍然存在。

自 2022 年 2 月全面入侵乌克兰以来,欧洲官员已制裁了至少 27 家俄罗斯媒体,因其传播虚假信息和歪曲事实,作为其“破坏欧洲和其他国家稳定的战略”的一部分。ISD 研究称,聊天机器人引用了 Sputnik Globe、Sputnik China、RT(前身为今日俄罗斯)、EADaily、战略文化基金会和 R-FBI。一些聊天机器人还引用了放大克里姆林宫叙述的俄罗斯虚假信息网络和俄罗斯记者或有影响力的人。

OpenAI 发言人 Kate Waters 在一份声明中表示,该公司采取措施“防止人们使用 ChatGPT 传播虚假或误导性信息,包括与国家支持的行为者相关的内容”,并补充说,这些是该公司试图通过改进其模型和平台来解决的长期问题。

谷歌和 DeepSeek 均未回复 WIRED 的置评请求。埃隆·马斯克(Elon Musk)的 xAI 的一封电子邮件称:“传统媒体谎言。”俄罗斯驻伦敦大使馆的一名发言人在一份书面声明中表示,它“不知道”该报告详细说明的具体案例,但反对任何以政治理由审查或限制内容的企图。该发言人写道:“对俄罗斯媒体和不同观点的压制剥夺了那些寻求形成自己独立意见的人的机会,破坏了西方政府声称维护的言论自由和多元化的原则。”“这取决于相关提供者。”