主要内容
AI系统的供应链安全比传统软件更复杂,因前者依赖模型、数据、工具和基础设施等更广泛的组件,且风险可在部署后通过这些组件持续传播。例如,受污染的检索源会扭曲系统认知,过度授权的连接器可能暴露内部系统,高权限代理甚至能将错误响应转化为实际操作。
传统软件供应链主要关注源代码、第三方包和构建系统的完整性,而AI供应链安全需覆盖模型、数据、工具、连接器及云基础设施等全依赖链。与传统软件不同,AI系统在运行时还涉及数据交互、工具调用和外部服务联动,攻击可通过这些交互影响系统输出。
实践中,AI供应链风险常表现为过度授权的连接器(如让助手访问未授权的存储或系统)、受污染的检索源(扭曲模型上下文)、云配置错误(暴露推理端点或存储桶),以及影子AI服务和弱权限代理等。这些风险远超传统软件的“组件污染”问题,需更全面的防护。
OWASP指出,AI供应链安全需从模型层扩展到整个依赖链,仅靠模型层防护不足。Wiz等解决方案通过增强对模型、工具和云暴露的可见性,帮助企业建立更全面的AI供应链安全体系。