主要内容
随着生成式 AI 推动软件开发速度，它也增强了数字攻击者实施以经济为动机或国家支持的黑客攻击的能力。这意味着科技公司的安全团队在应对恶意行为者更多压力的同时，要审查比以往更多的代码。
周一，亚马逊将首次公布其内部系统“自主威胁分析（ATA）”的细节。该公司一直在使用 ATA 帮助其安全团队主动识别平台中的弱点，进行变体分析以快速搜索其他类似漏洞，然后开发修复和检测能力，在攻击者发现漏洞之前加以弥补。
ATA 诞生于 2024 年 8 月的一次内部亚马逊黑客马拉松，安全团队成员称其已成为一个关键工具。ATA 的关键概念是，它不是一个为全面进行安全测试和威胁分析而开发的单一 AI 代理，而是亚马逊开发了多个专门的 AI 代理，在两个团队中相互竞争，以快速调查实际攻击技术及其可能用于亚马逊系统的不同方式，然后提出安全控制措施供人工审查。
亚马逊首席安全官史蒂夫·施密特表示，“最初的概念旨在解决安全测试中的一个关键限制——覆盖范围有限以及在快速变化的威胁环境中保持检测能力最新的挑战。有限的覆盖范围意味着你无法遍历所有软件或应用程序，因为你没有足够的人力。而且对一组软件进行分析很好，但如果不根据威胁环境的变化更新检测系统本身，你就会错过一半的情况。”
作为扩大 ATA 使用的一部分，亚马逊开发了特殊的“高保真”测试环境，这些环境是亚马逊生产系统的深度真实反映，因此 ATA 可以摄入和生成真实的遥测数据进行分析。公司的安全团队还特意设计了 ATA，以便它使用的每种技术和产生的检测能力都通过真实的自动测试和系统数据进行验证。
在寻找可用于亚马逊系统的攻击的红队代理在 ATA 的特殊测试环境中执行实际命令，产生可验证的日志。蓝队或专注于防御的代理使用真实的遥测数据来确认他们提出的保护措施是否有效。任何时候代理开发一种新技术，它也会提取带时间戳的日志以证明其主张的准确性。施密特称，这种可验证性减少了误报，并起到了“幻觉管理”的作用。
因为该系统是为要求可观察证据的某些标准而构建的，施密特声称“幻觉在架构上是不可能的”。ATA 的专门代理在团队中协同工作——每个代理都为更大的目标贡献其专业知识——模仿了人类在安全测试和防御开发中的协作方式。亚马逊安全工程师迈克尔·莫兰表示，AI 提供的区别在于能够快速生成新的攻击技术变体和组合，然后提出修复措施，而这对于人类来说单独进行是极其耗时的。
施密特还指出，ATA 在查看特定攻击能力和生成防御方面已经非常有效。例如，该系统专注于 Python“反向”