Hitachi Vantara的Lee Nolan谈负责任的AI成功

日立Vantara英国及爱尔兰总经理Lee Nolan指出，当前许多企业在部署AI智能体时存在严重的安全隐患：往往赋予AI访问所有内部系统的权限，这相当于将敏感数据完全暴露。他强调，负责任的做法是为AI建立严格的“护栏”，确保个人和敏感信息不被未经验证的智能体接触。Nolan批评了那些缺乏明确商业价值、仅为跟风而盲目部署AI项目的行为，认为这种“我们也有”的策略不仅无法带来差异化优势，反而可能导致企业失去独特的组织文化和核心竞争力。

在治理结构上，Nolan主张AI项目应被视为安全关键型工程，而非单纯的技术实验。他建议采取“宽松沙盒、严格部署”的模式：允许员工在非敏感数据环境中自由探索创新，但在智能体接触真实客户、资金或核心业务数据时，必须设置最高级别的审查机制。这意味着需要确定数据访问边界、指定高层负责人承担最终责任，并建立清晰的退出机制。特别是对于人力资源和薪酬等高风险领域，AI的错误处理需具备人类工作般的监督、反馈及升级流程，且必须考虑到物理AI动作不可逆的特性，制定类似工业安全的应急预案。

针对物理AI（如机器人）与纯软件AI的区别，Nolan强调前者应遵循成熟的工业安全标准，包括强制性的安全检查、失效保护默认值以及资质认证，不能仅将其视为带有马达的AI项目。目前，部分领先企业已开始为HR类AI智能体建立类似人类员工的考核与管理体系，通过代码层面的价值观嵌入来规范其行为。行业普遍共识是，AI治理不仅是IT部门的技术问题，更是涉及风险偏好、企业价值观的战略决策，必须由能够向董事会或监管机构负责的高层领导主导，以避免事后补救带来的巨大损失。