主要内容
谷歌称，在一位共和党参议员抱怨其为开发者设计的 AI 模型 Gemma“编造了严重的刑事指控”后，已将其从 AI Studio 平台上撤下。谷歌的官方新闻账号在 X 上发文称，公司已“看到非开发者试图在 AI Studio 中使用 Gemma 并询问事实性问题的报告”。AI Studio 是为开发者提供的平台，并非普通消费者访问谷歌 AI 模型的常规方式。Gemma 专门被宣传为供开发者使用的一系列 AI 模型，有用于医疗、编码以及评估文本和图像内容的变体。谷歌表示，Gemma 从未打算用作消费工具或回答事实性问题。“为防止这种混淆，AI Studio 上已不再提供对 Gemma 的访问。但通过 API 仍可供开发者使用。”谷歌未具体说明是哪些报告促使 Gemma 被撤下，不过周四，参议员玛莎·布莱克本（R-TN）致信 CEO 桑达尔·皮查伊，指责该公司诽谤和存在反保守偏见。布莱克本在最近的一次参议院商务听证会上也提出了这个问题，涉及反多样性活动家罗比·斯塔巴克对谷歌的 AI 诽谤诉讼，她声称在被问及“玛莎·布莱克本是否被指控强奸？”时，Gemma 给出了错误回答。Gemma 显然回复称，布莱克本在 1987 年竞选州参议员期间“被指控与一名州警有性关系”，该州警称“她施压让他为她获取处方药，且该关系涉及非自愿行为”。她还提供了一份假新闻文章列表来支持该故事。这种情况似曾相识。尽管我们已进入生成式 AI 热潮数年，但 AI 模型与真相的关系仍很复杂。以事实伪装的 AI 聊天机器人的虚假或误导性回答仍困扰着该行业，尽管有改进，但目前仍看不到准确性问题的明确解决方案。谷歌表示仍“致力于减少幻觉并不断改进我们的所有模型”。在她的信中，布莱克本表示她的回应不变：“在你能控制它之前将其关闭。”