Credo AI CEO Navrina Singh谈规模化治理AI

Credo AI 创始人兼首席执行官 Navrina Singh 指出，随着人工智能能力加速发展，治理与信任体系的建设必须同步跟上。她认为，AI 的优势在于其应用价值，但前提是技术从实验室走向现实世界时能确保可控与负责。Singh 强调，真正的信任需要通过不断演进的治理、问责和证据来赢得，而非仅仅依赖口头承诺。她将治理比作大脑，可观测性与安全视为肌肉，前者决定行动意义，后者反映实时状态，两者结合才能应对复杂风险。

面对日益自主的“代理式”AI，治理单元已从单一模型扩展到身份、权限及多智能体交互。Singh 表示，当 AI 具备独立执行任务、访问数据甚至调动资金的能力时，传统的事前审查已不足以应对，治理需延伸至运行时。企业应建立动态库存，识别包括影子 AI 在内的所有系统，并根据医疗或金融等不同场景的风险等级匹配相应保障措施。合规不应是事后的文档工作，而应嵌入 AI 全生命周期，确保持续积累验证证据。

欧盟《人工智能法案》将分阶段实施，主要里程碑预计于 2028 年 8 月前完成。在此背景下，Singh 呼吁企业从关注“是否合规”转向证明“是否有足够证据信任该 AI 做出特定决策”。Credo AI 通过与微软、IBM 等厂商合作，提供独立于底层技术的治理层，支持 AIUC-1、NIST 等框架落地。未来 AI 环境将是异构的，互操作性与独立性成为关键，企业需构建能在机器速度下运行、同时让人类设定边界并保留最终问责权的架构体系。