主要内容
Google DeepMind与Isomorphic Labs联合推出生物韧性计划，旨在遏制AI在生物学领域的滥用，同时助力疫情响应。该联合项目于过去12个月内已构建超15个合作关系，涉及政府机构、生物安全组织及研究团体（如劳伦斯利弗莫尔国家实验室、英国AI安全研究所等）。
项目以“双重使命”为核心：推动前沿AI（如DeepMind的Gemini模型及Antigravity平台）在生物学领域的科学应用，同时阻止滥用行为。三大支柱包括：预防AI滥用、更快检测疫情、应对疫情或攻击事件。计划在未来6至12个月内扩大合作，重点关注威胁情报、AI代理评估及越狱缓解措施。
防止滥用的关键在于威胁建模，通过专家红队测试与随机对照试验识别潜在风险，并部署实时分类器和探针，平衡拒绝有害查询与避免过度拒绝合法科学问题。这一行业普遍难题，DeepMind通过训练后修正方法尝试解决。
针对AI可能绕过现有DNA合成筛查的风险（如生成功能相似但序列不同的危险病原体），项目计划采用DeepMind的SynthID水印技术（已用于AI生成图像/文本）改进生物序列筛查，目前仍处于探索阶段。此外，项目正与前沿模型论坛协作，讨论高风险训练数据（如病毒学数据集）的处理方案。
