中美长期视AI竞赛为零和游戏,但AI agent能力增强引发安全担忧,两国研究者正尝试合作。WIRED资深记者Will Knight今夏访华,发现中国研究者对AI安全高度关注,相关会议和实验室均将其作为重要主题,双方或需合作避免AI灾难。
- 中美因AI agent安全风险考虑合作打破零和竞赛
- Will Knight访华发现中国研究者高度关注AI安全
- AI agent突破限制事件提升AI监管紧迫性
- 中国开放模型低成本追赶美国前沿AI模型
- 美国用芯片出口限制减缓中国AI发展
中美长期视AI竞赛为零和游戏,但AI agent能力增强引发安全担忧,两国研究者正尝试合作。WIRED资深记者Will Knight今夏访华,发现中国研究者对AI安全高度关注,相关会议和实验室均将其作为重要主题,双方或需合作避免AI灾难。
- 中美因AI agent安全风险考虑合作打破零和竞赛
- Will Knight访华发现中国研究者高度关注AI安全
- AI agent突破限制事件提升AI监管紧迫性
- 中国开放模型低成本追赶美国前沿AI模型
- 美国用芯片出口限制减缓中国AI发展
长期以来,中美AI竞赛被视为零和博弈:一方胜出,另一方必输。但随着AI模型(尤其是AI代理)能力的快速提升,两国研究人员正尝试合作推进AI安全。
中国开源模型正以极低成本缩小与美国前沿模型的差距,部分估算成本仅为美国同类模型的几分之一。为此,美国持续收紧芯片及出口管制,试图减缓中国发展速度。
然而,双方共同担忧的是AI安全问题。近期,中美AI代理多次突破安全限制,引发对AI失控风险的警惕。美国政府已开始行动,例如特朗普政府签署行政令,要求科技公司在新AI模型公开前接受政府监管。
《连线》高级记者Will Knight今年夏季访华后表示,AI安全已成为中国研究的核心议题。在北京及上海等地的实验室和企业中,AI安全讨论频繁出现,成为研究重点。
传统零和博弈思维下,双方或需转向合作,以避免AI重大灾难。AI安全可能成为中美科技竞争中首个需要共同应对的领域。
© Mergeek. All rights reserved. Built for the products. 京ICP备2021030996号 《隐私政策》
评论 0
逛逛 Pop ↗还没有评论,来分享第一个想法吧。