如何缩减代币预算而不缩减团队 - AI News
如何缩减代币预算而不缩减团队

如何缩减代币预算而不缩减团队

2026-07-10

新闻要点

2026年GTC结束时,Nvidia CEO黄仁勋在All-In Podcast表示,若50万美元年薪工程师年AI代币消耗低于薪水一半将警惕,Nvidia目标年工程代币支出20亿美元。企业正用裁员支付代币预算,但Gartner调查显示80%裁员无回报,同时存在缓存、模型路由等优化代币成本的方法。

- 黄仁勋提出工程师代币测试,Nvidia目标年代币支出20亿美元

- 80%企业裁员支付代币预算但未提升回报

- 缓存等优化方法可大幅降低AI代币成本

- Uber 5000工程师提前耗尽2026 AI代币预算

- Meta裁员8000人抵消AI投资,Q收入增33%

主要内容

英伟达CEO黄仁勋提出一个工程师价值测试:若年薪50万美元的工程师年AI token消耗超过其薪资的一半,公司将高度警惕。英伟达计划将工程师的年token支出控制在20亿美元。这一标准揭示了一个趋势:企业正从人力投入转向AI计算资源(token)支出。

全球四大超大规模云服务商2026年资本支出合计约7000亿美元,几乎是去年的两倍。美国裁员数据显示,AI连续第四个月成为裁员主因。Meta在营收增长33%的季度裁员8000人,称是为抵消巨额AI投入。

但裁员并非生存策略,而是融资转向。Gartner对350家年营收超10亿美元的企业调查显示,约80%公司裁员后回报未改善。分析师Helen Poitevin直言:“裁员能省预算,却无法创造回报。”

Uber的教训尤为典型:去年12月给5000名工程师配备AI编码工具,今年4月即耗尽全年AI预算。尽管70%代码由AI生成,但客户感知不到差异。

问题核心在于:企业误将token预算视为固定成本,人力视为可变成本。实则token预算可通过优化节省大量开支。方法包括:prompt缓存(减少重复输入成本)、模型路由(用小模型处理常规任务)、检索增强生成(仅传递相关知识库)、prompt压缩(去除冗余内容),以及开源模型(降低API调用成本)。

这些措施如同“关掉空房间的灯”,Uber今年4月后将工程师月token支出上限设为1500美元,印证了预算纪律的重要性。领先企业已主动优化,而非等预算耗尽后被迫调整。