主要内容
一周前，我在北京中关村参加了一场重要的人工智能大会。会议聚焦递归自我改进、人形机器人等前沿议题，汇聚了公钥密码学共同发明者惠特菲尔德·迪菲、强化学习先驱安德鲁·巴托等技术泰斗。但我最大的感触是：中美应暂时搁置AI领域的激烈竞争，共同应对其带来的网络安全与系统性风险。
麻省理工学院计算机科学家斯蒂芬·卡斯珀在会后表示：“AI是全球性技术，其收益与危害均具全球属性，新能力终将扩散至全球。”他认为，当前AI发展需国际协作，类比美苏核安全合作的历史经验，协作应对AI风险的收益远超潜在国家安全风险。
美国长期将中国AI进展视为经济与国家安全威胁，通过芯片出口管制、限制AI模型访问等手段施压，近期甚至要求Anthropic限制外国人访问其最强模型Mythos和Fable 5，导致该公司对所有人关闭了访问权限。
此次北京人工智能研究院主办的会议强调，中美若过快、鲁莽发展AI，双方都将受损。随着AI变得更强、更自主且深度融入生活，其被用于网络攻击或发生灾难性故障的风险将显著增加。作为全球最先进AI技术的主导者，中美合作是应对风险的关键。
上海交通大学林云教授指出，尽管短期黑客可能利用AI占优，但长期来看，AI反制技术与合作机制将平衡风险。他认为，各国应基于共同风险认知制定安全原则与技术标准，在开放创新与风险管控间寻求平衡。
