主要内容
新加坡政府今日发布了一份关于人工智能安全全球合作的蓝图，此前来自美国、中国和欧洲的人工智能研究人员举行了一次会议。该文件阐述了通过国际合作而非竞争来致力于人工智能安全的共同愿景。麻省理工学院的科学家马克斯·泰格马克（Max Tegmark）表示：“新加坡是地球上少数与东西方都相处融洽的国家之一。他们知道自己不会独自构建[通用人工智能]，而是会被他人构建，因此让构建它的国家相互交流对他们非常有利。”
当然，被认为最有可能构建通用人工智能的国家是美国和中国，但这些国家似乎更热衷于相互竞争而非合作。今年 1 月，中国初创公司 DeepSeek 发布了一个前沿模型后，特朗普总统称其为“对我们产业的警钟”，并表示美国需要“专注于竞争获胜”。
《全球人工智能安全研究优先事项新加坡共识》呼吁研究人员在三个关键领域进行合作：研究前沿人工智能模型带来的风险、探索构建这些模型的更安全方法以及开发控制最先进人工智能系统行为的方法。该共识是在 4 月 26 日举行的国际学习表征会议（ICLR）期间制定的，这是今年在新加坡举行的顶级人工智能活动。OpenAI、Anthropic、谷歌 DeepMind、xAI 和 Meta 的研究人员以及麻省理工学院、斯坦福大学、清华大学和中国科学院等机构的学者都参加了此次人工智能安全活动。来自美国、英国、法国、加拿大、中国、日本和韩国的人工智能安全研究所的专家也参与了此次活动。
清华大学院长薛澜在一份声明中表示：“在地缘政治分裂的时代，这种对人工智能安全前沿研究的综合是一个有希望的迹象，表明国际社会正在共同努力，致力于塑造一个更安全的人工智能未来。”越来越强大的人工智能模型的发展，其中一些具有令人惊讶的能力，引起了研究人员对一系列风险的担忧。虽然一些人关注近期的危害，包括由有偏见的人工智能系统或犯罪分子利用该技术可能导致的问题，但许多人认为，随着人工智能开始在更多领域超越人类，它可能对人类构成生存威胁。这些研究人员有时被称为“人工智能末日论者”，他们担心模型可能为了追求自己的目标而欺骗和操纵人类。
人工智能的潜力也引发了美国、中国和其他强国之间的军备竞赛的讨论。在政策界，该技术被视为经济繁荣和军事主导地位的关键，许多政府都试图制定自己的愿景和法规来规范其发展。DeepSeek 1 月份的首次亮相加剧了人们的担忧，即尽管采取了出口管制措施来限制中国获取人工智能硬件的机会，但中国可能正在迎头赶上甚至超越美国。现在，特朗普政府正在考虑采取额外措施，旨在限制中国构建前沿人工智能的能力。特朗普政府还试图淡化人工智能风险，转而采取更积极的方法在美国构建该技术。在 2025 年巴黎的一次重要人工智能会议上，副总统 JD·万斯（JD Vance）表示，美国政府希望在人工智能的开发和部署方面减少限制，并将之前的方法描述为“过于规避风险”。麻省理工学院的科学家泰格马克表示，一些人工智能研究人员渴望在巴黎之后“扭转局面”，将注意力重新集中在越来越强大的人工智能带来的潜在风险上。在新加坡的会议上，泰格马克提交了一篇技术论文，该论文……