---
title: "Uber的Secure AI框架：以三层控制管理自主代理"
canonical: "https://siyuanailab.com/curation/translations/bb741666ab5af5a023a307958361d994-84d8a07fd407db6682b3938515bce81cc1dbde7777b4b241c96a8e229a493dc0/"
dateModified: "2026-11-16"
datePublished: "2026-11-16"
---

[返回日报条目](https://siyuanailab.com/curation/#entry/bb741666ab5af5a023a307958361d994)

 

资料节译

 

# Uber的Secure AI框架：以三层控制管理自主代理

 

[阅读原文](https://dev.to/yanoai/secure-ai-framework-how-uber-governs-autonomous-agents-across-their-lifecycle-3696)

 

现有资料无法确认原文完整，本页只翻译已取得的材料。

 

现有原件无法确认图片是否齐全。

 

到2028年，智能体式AI可能会应用于33%的企业软件应用，高于目前约1%（来源：Gartner，经AI Business转引，2024年）。在菲律宾，国家隐私委员会已要求组织对AI处理结果承担责任，并要求建立机制，让人们能够对自动化决策提出异议（来源：国家隐私委员会，2024年）。这两项事实之间的差距在于架构：许多团队能够部署智能体，却很少能证明究竟是哪个智能体、代表谁、在什么范围内采取了行动。

 

![Infographic](/curation/media/7fea47bc9b0e9364dcd51a6cb74f493990853ffbf8930494294a2cacc34db13b.webp)

 

Uber的安全团队直言问题所在：身份与授权系统可以判断用户或服务是否有权访问某项资源，却无法判断智能体提出的操作在具体情境下是否合适（来源：Uber，2026年）。由此产生的失效模式关乎语义，而非凭据：提示注入、工具与记忆投毒、目标劫持、行为漂移，以及由幻觉驱动的操作（来源：Uber，2026年）。

 

Gartner描述了同样的变化：有了智能体，威胁面扩展到了智能体发起的事件链；默认情况下，人类或系统操作人员看不到这条链，也无法阻止它（来源：Gartner，经AI Business转引，2024年）。

 

看不见的控制，就无从拉下。Gartner目前预计，到2028年，25%的企业生成式AI应用每年至少会遭遇五起轻微安全事件（来源：Gartner，2026年）。

 

Uber的Secure AI框架从三个层面覆盖智能体生命周期：配置时验证、运行时强制执行和持续保障（来源：Uber，2026年）。

 

在配置阶段，Uber AI Registry会存储智能体的身份、所有权、角色设定、允许的意图、约束、依赖项和风险等级。Argus会读取源代码、提示词、配置、依赖项、暴露的端点以及工具调用路径，以推导出可用于核对已声明契约的意图（来源：Uber，2026年）。

 

运行时，Registry是策略管理点，AI Guard是决策点，Agent Guard则在各强制执行点挂接钩子。智能体可以持有有效凭据，用户也可以拥有合法访问权限，但如果操作超出智能体定义的意图，仍然可以被拒绝（来源：Uber，2026年）。

 

第三层形成闭环：统一的执行跟踪记录将操作、工具调用和护栏决策关联起来；已记录的交互会在强制执行前针对候选护栏进行重放；自动化威胁建模和红队测试则会将发现反馈到风险评分中（来源：Uber，2026年）。

 

身份层是大多数技术栈失灵之处。Uber的工程师发现，身份模型是围绕人和工作负载构建的，而发起请求的用户和中间智能体会在多次跳转中丢失，导致下游系统只能看到某个服务调用了API（来源：Uber，2026年）。

 

他们的解决办法是：每个工作负载从SPIRE获取可由SPIFFE验证的ID，然后由安全令牌服务签发单跳JWT，指定受众，令牌有效期以分钟计（来源：Uber，2026年）。令牌交换遵循OAuth 2.0 Token Exchange（RFC 8693），并嵌入完整的参与者链，因此网关可以看到工程师、值班智能体以及中间的每一步（来源：Uber，2026年）。

 

在生产环境中，这种交换的P99延迟低于40毫秒，已有数千个内部智能体采用该系统（来源：Uber，2026年）。

 

这一模式并不局限于基础设施。OpenAI的ChatGPT Wallet于2026年11月13日上线，智能体只有在用户查看商品、总额和银行卡后，并通过Face ID或指纹批准，才能完成购买；这会生成一条交易记录（来源：TechCrunch，2026年）。

 

钱包通过代表银行卡信息的支付令牌收费，因此智能体和商家都不会收到卡号（来源：TechCrunch，2026年）。消费限额以及类别或时间窗口参数仍在规划中，届时用户可以预先批准范围有限的自主操作（来源：TechCrunch，2026年）。

 

结合Uber的架构来看，控制要素同样是三项：身份、范围和有记录的批准。

 

相关局限也有记录。Uber报告称，护栏降低了风险并提高了攻击成本，但没有彻底消除风险；效果最好的缓解办法最不起眼：明确规定意图和约束，代价是灵活性降低（来源：Uber，2026年）。

 

评审者指出了结构性缺口。联合国高级信息技术官员Tristan G.指出，逐个智能体设置角色和约束会随着工作流数量增加而变得难以扩展，并询问这种模式如何适用于无法插入自有强制执行钩子的供应商或SaaS智能体（来源：InfoQ，2026年）。

 

只有存在强制执行点，才有可能设置紧急停止开关。对于第三方智能体，可用手段会缩减为注销注册、在网关拒绝令牌，以及切断网络路径；从未构建这些手段的团队，往往会在事故发生时才发现这个缺口。

 

国家隐私委员会第2024-04号咨询意见要求个人信息控制者继续对AI处理结果承担责任，并落实隐私影响评估、人工干预规程，以及针对自动化决策的申诉机制（来源：国家隐私委员会，2024年）。

 

每项要求都对应智能体架构中可能具备或缺失的一个组件：Registry是问责记录，执行跟踪是处理申诉时要查阅的审计轨迹，而强制执行钩子则是人工干预真正阻止操作的地方。

 

对菲律宾团队来说，顺序很简单：先建Registry和跟踪记录，再赋予自主权，因为日志中无法指明身份的智能体，也就无法为其行为辩护。

 

**问：Uber的Secure AI框架实际强制执行什么？**

 

答：三个层面：通过AI Registry和Argus进行配置时验证；通过AI Guard作出决策并由Agent Guard钩子执行运行时控制；以及通过跟踪记录、重放和红队测试实现持续保障（来源：Uber，2026年）。

 

**问：逐跳智能体身份会带来明显延迟吗？**

 

答：Uber报告称，其生产环境中的令牌交换P99延迟低于40毫秒，已有数千个内部智能体采用该方案（来源：Uber，2026年）。

 

**问：第三方智能体最大的治理缺口是什么？**

 

答：强制执行钩子：逐个智能体投入的工作会随着工作流数量增加，而供应商或SaaS智能体无法承载你自己的钩子（来源：InfoQ，2026年）。

 

Uber自己的结论很有参考价值：随着模型改进，角色设定、范围明确的意图、约束和来源追溯信息并非应当移除的脚手架；自主性越强，这些控制就越重要（来源：Uber，2026年）。

 

在下一个智能体上线之前，先在架构中厘清三个问题，而不是等到事故报告里再问：你能否说清每一跳上的行动者是谁？能否指出授权它的范围？在你拥有控制权的地方，能否让它停下来？

 

AI 翻译；具体表述请与原文对照。
