--- title: "API 网关与工具路由参考：ai - API 网关与工具路由 | 思行致远" canonical: "https://siyuanailab.com/knowledge/workflows/infrastructure/api-tool-routing/infrastructure-api-tool-routing-ai/" dateModified: "2026-06-30" datePublished: "2026-06-30" --- 打开 AI·外脑目录 AI·外脑 [返回专栏首页](https://siyuanailab.com/knowledge/) × 站内搜索 ⌕ 主要栏目 - [AI 核心概念](https://siyuanailab.com/knowledge/ai-core/) - [工作流](https://siyuanailab.com/knowledge/workflows/) - [工具配置与选型](https://siyuanailab.com/knowledge/toolkits/) - [信源与标准](https://siyuanailab.com/knowledge/sources/) - [场景案例 待开发](https://siyuanailab.com/knowledge/scenarios/) - [职业与能力](https://siyuanailab.com/knowledge/career/) 专题 - [从这里开始](https://siyuanailab.com/knowledge/start/) - [获取与安装](https://siyuanailab.com/knowledge/install/) - [建设日志](https://siyuanailab.com/knowledge/ops/) [工作流子目录](https://siyuanailab.com/knowledge/workflows/) 基础设施层 - [浏览器自动化 **5**](https://siyuanailab.com/knowledge/workflows/infrastructure/browser-automation/) - [MCP 工具 **5**](https://siyuanailab.com/knowledge/workflows/infrastructure/mcp-tools/) - [文件系统与本地执行 **5**](https://siyuanailab.com/knowledge/workflows/infrastructure/filesystem-local/) - [API 网关与工具路由 **5**](https://siyuanailab.com/knowledge/workflows/infrastructure/api-tool-routing/) - [WF-016 API 网关与工具路由参考：ai](https://siyuanailab.com/knowledge/workflows/infrastructure/api-tool-routing/infrastructure-api-tool-routing-ai/) - [WF-017 API 网关与工具路由参考：composio](https://siyuanailab.com/knowledge/workflows/infrastructure/api-tool-routing/infrastructure-api-tool-routing-composio/) - [WF-018 API 网关与工具路由参考：gateway](https://siyuanailab.com/knowledge/workflows/infrastructure/api-tool-routing/infrastructure-api-tool-routing-gateway/) - [WF-019 API 网关与工具路由参考：litellm](https://siyuanailab.com/knowledge/workflows/infrastructure/api-tool-routing/infrastructure-api-tool-routing-litellm/) - [WF-020 API 网关与工具路由参考：petalflow](https://siyuanailab.com/knowledge/workflows/infrastructure/api-tool-routing/infrastructure-api-tool-routing-petalflow/) Skill 生产线 - [目标明确 **5**](https://siyuanailab.com/knowledge/workflows/skill-forge/goal-definition/) - [Skill 设计 **5**](https://siyuanailab.com/knowledge/workflows/skill-forge/skill-design/) - [代码实现 **5**](https://siyuanailab.com/knowledge/workflows/skill-forge/implementation/) - [测试评估 **5**](https://siyuanailab.com/knowledge/workflows/skill-forge/testing-evaluation/) Skill 参考库 - [写作与内容 **5**](https://siyuanailab.com/knowledge/workflows/skill-library/writing-content/) - [研究与知识 **5**](https://siyuanailab.com/knowledge/workflows/skill-library/research-knowledge/) - [沟通与协作 **5**](https://siyuanailab.com/knowledge/workflows/skill-library/communication-collaboration/) - [产品与项目 **5**](https://siyuanailab.com/knowledge/workflows/skill-library/product-project/) - [数据与分析 **5**](https://siyuanailab.com/knowledge/workflows/skill-library/data-analysis/) - [创意与设计 **5**](https://siyuanailab.com/knowledge/workflows/skill-library/creative-design/) - [商业与营销 **5**](https://siyuanailab.com/knowledge/workflows/skill-library/business-marketing/) Agent Building 只收录有多步工作流、工作标准、Loop、Harness、工具链或通信机制的真 Agent；不收纯 persona、profile、curated list 或只有 system prompt 的仓库。 - [多 Agent 框架 **5**](https://siyuanailab.com/knowledge/workflows/agent-building/multi-agent-frameworks/) - [工作流编排 **5**](https://siyuanailab.com/knowledge/workflows/agent-building/workflow-orchestration/) - [Sub-agent 模式 **5**](https://siyuanailab.com/knowledge/workflows/agent-building/sub-agent-patterns/) - [Harness 与评估 **5**](https://siyuanailab.com/knowledge/workflows/agent-building/harness-evaluation/) 基础设施层 · API 网关与工具路由 · 工具解读 · WF-016 # API 网关与工具路由参考：ai 思行致远 · 2026/6/30 · 置信度：高 API网关工具路由function calling权限边界 一个面向 TypeScript 应用和 Agent 的统一模型调用层，把模型、工具调用、结构化输出和 UI 流式响应放在同一套接口里。 # Vercel AI SDK > 一个面向 TypeScript 应用和 Agent 的统一模型调用层，把模型、工具调用、结构化输出和 UI 流式响应放在同一套接口里。 ## 这个能力解决什么问题 AI 应用接入多个模型供应商后，接口差异会迅速扩散到业务代码里：模型名、流式输出、工具调用、结构化 JSON、前端消息协议、错误处理都各不相同。Vercel AI SDK 解决的是把这些差异压成同一层 TypeScript API，让应用面向 `generateText`、`generateObject`、Agent 和 UI hook，而不是绑定某一家模型 SDK。 对工具路由来说，它的价值在于把“选择模型、调用工具、回填工具结果、把中间状态推给 UI”放进一个可组合的运行时，而不是散落在 route handler、前端组件和供应商 SDK 之间。 ## 核心逻辑 输入侧是应用传入的 prompt、messages、model 字符串或 provider 实例，以及可选 tools、schema、UI message 类型。处理层通过统一 provider 把模型请求转成供应商协议；需要工具时，由 `ToolLoopAgent` 维护“模型提出工具调用 → 应用执行工具 → 工具结果回填 → 模型继续生成”的循环；需要结构化结果时，用 schema 约束输出；需要 UI 时，把 agent stream 转成前端可消费的 message stream。输出可以是文本、对象、流式 token、带工具状态的 UI 消息，或 agent 的最终回复。 ## 技术结构 - **统一 Provider Architecture**：同一套调用形态可以走 Vercel AI Gateway，也可以安装 OpenAI、Anthropic、Google 等 provider 包直连。 - **AI SDK Core**：文本生成、结构化对象、tools、MCP tools、provider management、testing、telemetry 等能力在文档中分层维护。 - **Agent 层**：`ToolLoopAgent` 把工具循环做成显式对象，适合 shell、图片生成、浏览器等有副作用工具。 - **UI Integration**：route handler、typed UI message、`createAgentUIStreamResponse` 和前端 hook 让工具调用状态进入组件，而不只是返回最终文本。 - **运行依赖**：README 要求 Node.js 22+，主生态是 TypeScript/前端应用。 ## 为什么值得参考 它不是单纯的模型 SDK，而是把模型调用、工具循环、结构化输出和 UI 状态放在一条工程链路里。对企业 AI 服务来说，这种结构能减少“每个功能都重新拼 provider SDK、工具回填和前端流式协议”的重复劳动。 ## 为什么不建议直接套用 它强绑定 TypeScript、Node 和前端框架生态。如果工作流主要跑在 Python、本地 CLI 或无前端后台任务中，直接引入会增加运行时复杂度。默认走 Vercel AI Gateway 时，模型访问、计费、组织权限和审计路径也要单独评估。 ## 如何改造成自己的版本 借它的三层边界：第一层定义内部统一模型接口，只暴露 text/object/stream/tool_loop；第二层把供应商 provider 做成可替换适配器；第三层把工具调用状态标准化成 UI 和日志都能读取的事件。内部 Skill 可以只借 `ToolLoopAgent` 思想：每个工具声明输入 schema、执行器、风险等级和可展示结果，模型只能通过工具表行动。 ## 适用场景 - TypeScript/Next.js 应用需要同时接多个模型和工具。 - Agent 结果要实时展示在前端，并显示工具调用过程。 - 需要结构化输出、工具调用、模型切换共用一套接口。 ## 不适用场景 - 纯 Python 数据管线或离线批处理。 - 对 Vercel 生态、Node.js 版本和前端流式协议没有维护能力。 - 高敏工具还没有审批、审计、回滚机制。 ## 参考信息 - 原项目：[ai](https://github.com/vercel/ai) - 作者：vercel - 相关概念：[[工具调用]]、[[模型网关]]、[[结构化输出]] - 相关卡片：保守留空 ## 参考对象信息 **名称：**ai **作者：**vercel **链接：**[https://github.com/vercel/ai](https://github.com/vercel/ai) ## 适用场景与行动 **场景：**基础设施层 / API 网关与工具路由 **适合谁：**关注 AI 工作流、Skill 生产和 Agent Building 的读者 **下一步：**先阅读边界说明，再判断它是否适合改造成自己的API 网关与工具路由流程。 当前内容按公开来源和已审核草稿整理，只作为工作流理解与方法论参考。 涉及客户数据、外部平台、会议记录和业务系统的场景，必须保留人工确认与授权边界。 [下一张：API 网关与工具路由参考：composio](https://siyuanailab.com/knowledge/workflows/infrastructure/api-tool-routing/infrastructure-api-tool-routing-composio/) [返回当前分类](https://siyuanailab.com/knowledge/workflows/infrastructure/api-tool-routing/) [返回工作流专栏](https://siyuanailab.com/knowledge/workflows/)