返回日报条目

资料节译

Uber的Secure AI框架:以三层控制管理自主代理

阅读原文

到2028年,智能体式AI可能会应用于33%的企业软件应用,高于目前约1%(来源:Gartner,经AI Business转引,2024年)。在菲律宾,国家隐私委员会已要求组织对AI处理结果承担责任,并要求建立机制,让人们能够对自动化决策提出异议(来源:国家隐私委员会,2024年)。这两项事实之间的差距在于架构:许多团队能够部署智能体,却很少能证明究竟是哪个智能体、代表谁、在什么范围内采取了行动。

Infographic

Uber的安全团队直言问题所在:身份与授权系统可以判断用户或服务是否有权访问某项资源,却无法判断智能体提出的操作在具体情境下是否合适(来源:Uber,2026年)。由此产生的失效模式关乎语义,而非凭据:提示注入、工具与记忆投毒、目标劫持、行为漂移,以及由幻觉驱动的操作(来源:Uber,2026年)。

Gartner描述了同样的变化:有了智能体,威胁面扩展到了智能体发起的事件链;默认情况下,人类或系统操作人员看不到这条链,也无法阻止它(来源:Gartner,经AI Business转引,2024年)。

看不见的控制,就无从拉下。Gartner目前预计,到2028年,25%的企业生成式AI应用每年至少会遭遇五起轻微安全事件(来源:Gartner,2026年)。

Uber的Secure AI框架从三个层面覆盖智能体生命周期:配置时验证、运行时强制执行和持续保障(来源:Uber,2026年)。

在配置阶段,Uber AI Registry会存储智能体的身份、所有权、角色设定、允许的意图、约束、依赖项和风险等级。Argus会读取源代码、提示词、配置、依赖项、暴露的端点以及工具调用路径,以推导出可用于核对已声明契约的意图(来源:Uber,2026年)。

运行时,Registry是策略管理点,AI Guard是决策点,Agent Guard则在各强制执行点挂接钩子。智能体可以持有有效凭据,用户也可以拥有合法访问权限,但如果操作超出智能体定义的意图,仍然可以被拒绝(来源:Uber,2026年)。

第三层形成闭环:统一的执行跟踪记录将操作、工具调用和护栏决策关联起来;已记录的交互会在强制执行前针对候选护栏进行重放;自动化威胁建模和红队测试则会将发现反馈到风险评分中(来源:Uber,2026年)。

身份层是大多数技术栈失灵之处。Uber的工程师发现,身份模型是围绕人和工作负载构建的,而发起请求的用户和中间智能体会在多次跳转中丢失,导致下游系统只能看到某个服务调用了API(来源:Uber,2026年)。

他们的解决办法是:每个工作负载从SPIRE获取可由SPIFFE验证的ID,然后由安全令牌服务签发单跳JWT,指定受众,令牌有效期以分钟计(来源:Uber,2026年)。令牌交换遵循OAuth 2.0 Token Exchange(RFC 8693),并嵌入完整的参与者链,因此网关可以看到工程师、值班智能体以及中间的每一步(来源:Uber,2026年)。

在生产环境中,这种交换的P99延迟低于40毫秒,已有数千个内部智能体采用该系统(来源:Uber,2026年)。

这一模式并不局限于基础设施。OpenAI的ChatGPT Wallet于2026年11月13日上线,智能体只有在用户查看商品、总额和银行卡后,并通过Face ID或指纹批准,才能完成购买;这会生成一条交易记录(来源:TechCrunch,2026年)。

钱包通过代表银行卡信息的支付令牌收费,因此智能体和商家都不会收到卡号(来源:TechCrunch,2026年)。消费限额以及类别或时间窗口参数仍在规划中,届时用户可以预先批准范围有限的自主操作(来源:TechCrunch,2026年)。

结合Uber的架构来看,控制要素同样是三项:身份、范围和有记录的批准。

相关局限也有记录。Uber报告称,护栏降低了风险并提高了攻击成本,但没有彻底消除风险;效果最好的缓解办法最不起眼:明确规定意图和约束,代价是灵活性降低(来源:Uber,2026年)。

评审者指出了结构性缺口。联合国高级信息技术官员Tristan G.指出,逐个智能体设置角色和约束会随着工作流数量增加而变得难以扩展,并询问这种模式如何适用于无法插入自有强制执行钩子的供应商或SaaS智能体(来源:InfoQ,2026年)。

只有存在强制执行点,才有可能设置紧急停止开关。对于第三方智能体,可用手段会缩减为注销注册、在网关拒绝令牌,以及切断网络路径;从未构建这些手段的团队,往往会在事故发生时才发现这个缺口。

国家隐私委员会第2024-04号咨询意见要求个人信息控制者继续对AI处理结果承担责任,并落实隐私影响评估、人工干预规程,以及针对自动化决策的申诉机制(来源:国家隐私委员会,2024年)。

每项要求都对应智能体架构中可能具备或缺失的一个组件:Registry是问责记录,执行跟踪是处理申诉时要查阅的审计轨迹,而强制执行钩子则是人工干预真正阻止操作的地方。

对菲律宾团队来说,顺序很简单:先建Registry和跟踪记录,再赋予自主权,因为日志中无法指明身份的智能体,也就无法为其行为辩护。

问:Uber的Secure AI框架实际强制执行什么?

答:三个层面:通过AI Registry和Argus进行配置时验证;通过AI Guard作出决策并由Agent Guard钩子执行运行时控制;以及通过跟踪记录、重放和红队测试实现持续保障(来源:Uber,2026年)。

问:逐跳智能体身份会带来明显延迟吗?

答:Uber报告称,其生产环境中的令牌交换P99延迟低于40毫秒,已有数千个内部智能体采用该方案(来源:Uber,2026年)。

问:第三方智能体最大的治理缺口是什么?

答:强制执行钩子:逐个智能体投入的工作会随着工作流数量增加,而供应商或SaaS智能体无法承载你自己的钩子(来源:InfoQ,2026年)。

Uber自己的结论很有参考价值:随着模型改进,角色设定、范围明确的意图、约束和来源追溯信息并非应当移除的脚手架;自主性越强,这些控制就越重要(来源:Uber,2026年)。

在下一个智能体上线之前,先在架构中厘清三个问题,而不是等到事故报告里再问:你能否说清每一跳上的行动者是谁?能否指出授权它的范围?在你拥有控制权的地方,能否让它停下来?