主要内容
对AI引发世界末日的担忧正从硅谷到华盛顿持续升温，其中一个热门理论是“失控AI将制造生物武器”。今年夏天，AI企业CEO呼吁立法控制合成DNA制造；上月，斯坦福大学与Arc研究所研究显示AI可设计病毒基因组；Anthropic上周报告称Claude模型或被用于生物武器开发，指出“生物滥用是前沿AI模型最严重风险之一”。
尽管警报四起，多数科学家认为AI并非生物武器生产的根本威胁。加州基础模型研究所研究员David Bellamy指出，科学界长期面临“双重用途困境”——是否发表潜在危险生物研究。AI本质是工具，能帮助科学家和威胁者更快获取生物信息与实验方案，但并非瓶颈。
真正的瓶颈在于生物制剂组装的实际过程：获取基因片段、从头构建基因组、验证病毒感染性与传播性，以及所需的设备和资源。Bellamy强调，即便AI能加速信息获取，人类仍需掌握实验技能、获取原料，这才是关键。
Ginkgo Bioworks CEO Jason Kelly认为，AI无法自主管理实验室。他指出，人类可拒绝提供生物武器所需物质，“要实现自主生产，需部署大量机器人，这在现实中难以实现”。
免疫学家Derya Unutmaz表示，即便出现超级病毒，人类可通过其他AI系统快速开发疫苗，挫败恶意AI的威胁。
技术智库学者Olivia Scharfman认为，当前无法实现AI完全自主生产，但可能被用于雇佣他人操作，仍是潜在风险。
