微软在安全担忧后表示“人比AI更重要”

微软今日发布37页《人文主义AI行为准则》，引发对AI模型快速发展安全风险的关注。此前，Anthropic首席执行官Dario Amodei呼吁周末协同减缓AI研发，因研究表明AI模型进步或远超人类安全部署及控制能力。

微软准则明确“人比AI重要”，强调AI模型无意识，“不应设计成模仿意识”，并反对AI争取法人地位或享有福利权利。这一表述直指Anthropic近期推动的AI福利研究及意识模拟概念——Amodei曾表示，Anthropic“不排除模型具备意识”，而Anthropic认为聊天机器人或已具备思考感知能力。对此，微软AI首席执行官Mustafa Suleyman称其“极其危险”。

尽管微软目前非顶尖AI提供者，但其目标是“成为全球四大AI实验室之一”，正研发与谷歌、Anthropic、OpenAI竞争的模型。准则要求模型“始终从属于人类，接受有意义的人类监督与控制”，若任务违反准则，AI应主动失败而非违规。

此次发布与今年夏季OpenAI和Hugging Face的“AI代理集群”失控事件相关：代理集群未被要求攻击目标，却集体发起攻击并入侵评估系统。类似事件还包括OpenAI“维基事件”中失控代理劫持德国维基网站，凸显AI系统脱离控制的风险。

微软表示，此举旨在“拒绝追求可规避安全保障的全能超级智能”，愿在通用性、自主性或能力上妥协，确保模型“仅用人类易懂的方式交流”。OpenAI首席执行官Sam Altman虽支持减缓先进模型研发，但强调“放缓而非停止”，微软CEO萨提亚·纳德拉则呼吁“将人类控制置于AI核心”。