AI代理治理成焦点，监管机构指出控制漏洞

澳大利亚审慎监管局（APRA）警告金融机构，其AI代理治理和保障措施存在显著不足。当前银行与养老金机构正加速将AI应用于内部及面向客户的运营中，APRA于2025年底对大型受监管实体开展的针对性审查显示，所有机构均已引入AI，但风险管理成熟度参差不齐。

APRA指出，董事会虽对AI在提升生产力和客户体验方面表现出浓厚兴趣，但对AI风险的管理仍显薄弱：过度依赖供应商展示与摘要，对模型行为不可预测性及关键运营中断风险的监督不足，高风险决策中人工参与缺失等问题突出。

AI已在金融领域广泛应用，涵盖软件工程、理赔分类、贷款审批、欺诈识别及客户互动等场景。然而，部分机构将AI风险等同于传统技术风险，忽视模型行为偏差与不可控性，且在模型监控、变更管理及退役流程上存在明显缺口，缺乏AI工具清单与专人负责制。

网络安全领域，AI引入了提示注入、不安全集成等新攻击路径，身份与访问管理未适配AI代理等非人类主体。AI辅助软件开发增加了变更与发布控制压力，APRA要求实体对代理工作流实施特权访问管理、配置补丁及安全测试。

部分机构过度依赖单一AI供应商，缺乏替代方案与退出计划，且未充分评估上游依赖风险。APRA强调，实体需建立AI工具清单，明确专人负责，并对代理工作流实施严格控制。

行业层面，FIDO联盟成立代理认证技术工作组，开发AI代理发起的商业规范；CIS发布AI安全指南，将CIS Controls v8.1框架适配至大语言模型及AI代理环境，覆盖提示注入防护、敏感数据管理及安全访问控制等关键领域。