地缘政治影响AI市场,Red Hat探讨开源小语言模型用于企业。其CTO称当前AI存诸多问题,Red Hat以小语言模型应对,它可本地或混合云运行,节省成本且能保护数据主权,有望推动负责任、可持续的AI发展 。
- Red Hat 用开源小语言模型推动企业 AI 发展
- 当下 AI 存在语言服务、数据主权和信任问题
- 小语言模型可本地或混合云运行,成本低
地缘政治影响AI市场,Red Hat探讨开源小语言模型用于企业。其CTO称当前AI存诸多问题,Red Hat以小语言模型应对,它可本地或混合云运行,节省成本且能保护数据主权,有望推动负责任、可持续的AI发展 。
- Red Hat 用开源小语言模型推动企业 AI 发展
- 当下 AI 存在语言服务、数据主权和信任问题
- 小语言模型可本地或混合云运行,成本低
随着地缘政治事件塑造世界,科技受其影响也就不足为奇了——具体而言,当前的 AI 市场在变化方式、被接受的方法、开发方式以及在企业中的应用方式等方面都有所改变。目前,对 AI 结果的预期与现实世界的情况相互平衡。同时,人们对该技术仍存在诸多疑虑,不过也有很多人在其当前的萌芽阶段就开始拥抱它。
知名的大型语言模型(LLM)的闭环性质正受到诸如 Llama、DeepSeek 和百度最近发布的 Ernie X1 等实例的挑战。相比之下,开源开发提供了透明度和贡献回退的能力,这更符合对“负责任 AI”的需求:这个短语涵盖了大型模型的环境影响、AI 的使用方式、其学习语料库的组成以及数据主权、语言和政治等问题。
作为一家已证明其业务的经济可持续开源开发模式可行性的公司,Red Hat 希望将其开放、协作和社区驱动的方法扩展到 AI 领域。我们最近与 Red Hat 欧洲、中东和非洲地区的首席技术官 Julio Guijarro 进行了交谈,了解该组织为以负责任、可持续且尽可能透明的方式释放生成式 AI 模型的无疑力量所做的努力。
Julio 强调,为了更全面地理解 AI,我们仍需要很多教育。他表示:“鉴于关于 AI 内部工作原理的重大未知因素,这些因素植根于复杂的科学和数学,对许多人来说,它仍然是一个‘黑箱’。在很大程度上难以访问的封闭环境中开发时,这种缺乏透明度会更加严重。”
还有语言(欧洲和中东语言的服务严重不足)、数据主权以及根本上的信任等问题。“数据是一个组织最有价值的资产,企业需要确保意识到将敏感数据暴露给具有不同隐私政策的公共平台的风险。”
Red Hat 对全球 AI 需求的回应是追求它认为将给最终用户带来最大利益的东西,并消除在实际部署 AI 服务时迅速显现的许多疑虑和限制条件。Julio 表示,一个答案是小型语言模型,在本地或混合云中运行,使用非专业硬件,并访问本地业务信息。SLM 是 LLM 的紧凑、高效替代品,旨在为特定任务提供强大的性能,同时需要显著更少的计算资源。可以利用较小的云提供商来分担一些计算任务,但关键是要有选择将业务关键信息保留在内部、靠近模型的灵活性和自由度(如果需要的话)。这很重要,因为组织中的信息变化迅速。“大型语言模型的一个挑战是它们可能很快过时,因为数据生成不是在大型云中发生的。数据就在你和你的业务流程旁边发生。”
还有成本问题。“你的客户服务查询大型语言模型可能会带来巨大的隐性成本——在 AI 之前,你知道当你进行数据查询时,它有一个有限且可预测的范围。因此,你可以计算该交易可能会花费你多少钱。在大型语言模型的情况下,它们基于迭代模型。所以你使用得越多,它的答案就越好,你越喜欢它,你可能会问的问题就越多。每次交互都在花费你的钱。因此,以前是单个交易的相同查询现在可能会根据使用该模型的人及方式而变成一百次。当你在本地运行模型时,你可以有更大的控制权,因为范围是有限的。”
© Mergeek. All rights reserved. Built for the products. 京ICP备2021030996号 《隐私政策》
评论 0
逛逛 Pop ↗还没有评论,来分享第一个想法吧。