AI 平台对比
Portkey 与 TrueFoundry:托管网关还是私有 AI 平台?Portkey/TrueFoundry:网关或平台
比较网关运营与私有 AI 部署平台,并为每个控制平面明确负责人。

速览
适合希望获得路由、策略、护栏、日志、追踪、提示词、预算与管理,但不想采用更广部署平台的团队。
适合同一系统需要覆盖网关平面、私有网络、模型部署、智能体工作负载、MCP、治理和云运营的组织。
应分别明确数据面、网关面、控制面、计算面、元数据存储、遥测、密钥、升级、备份和支持责任。
在比较功能前,先决定什么必须留在 VPC、什么可用 SaaS、谁能发布策略、哪个团队负责故障。
托管套件与部署平台是不同范围
Portkey 的核心是以网关为中心的生产套件。官方文档覆盖通用 API 网关、路由 Config、护栏、可观测性、提示词管理、预算、限额、管理和开源网关路径。
TrueFoundry 的范围包含部署与基础设施边界。当前文档描述托管全球网关、可部署网关 Plane、完整 Control/Compute Plane、模型与服务部署、智能体/MCP 访问、治理、密钥管理、监控、云中立安装和 Kubernetes 运营。
Portkey 与 TrueFoundry 并排比较
| 决策面 | Portkey | TrueFoundry |
|---|---|---|
| 主要范围 | 托管网关、护栏、可观测性与提示词运营 | AI 网关加部署、智能体、MCP 与基础设施治理 |
| 控制边界 | 以 SaaS 为中心,需验证网关自托管选项 | 托管 SaaS 网关、可部署网关面或更广自托管平台 |
| 模型生命周期 | 路由并治理对供应商的调用 | 除路由外还可部署运营模型与服务 |
| 智能体与工具 | 套件内的网关与 MCP 能力 | 平台范围内的智能体 Runtime、模型网关与 MCP 网关 |
| 运营 | 厂商托管产品,团队负责配置与集成 | 可能需负责集群、各平面、存储、升级与灾备 |
| 最佳负责人 | AI 平台、安全与应用赋能团队 | 平台工程、ML 平台与云基础设施团队 |
选择能覆盖边界的最小平台
托管网关套件已满足路由、护栏、可观测性、提示词、预算与管理需求,无需增加模型托管运营。
需要私有部署、模型/服务托管、智能体 Runtime、MCP、Kubernetes、云治理或更广 AI 平台路线。
方案只写“自托管”,却没有组件图、容量、升级模式、备份设计、支持边界或已验证恢复目标。
为每个平面编写责任矩阵
列出网关数据面、控制面、计算面、UI/API、身份、策略存储、密钥、遥测、模型注册表、制品存储、数据库、队列、缓存、DNS、证书、备份与灾备。逐项记录位置、负责人、访问路径、数据分类、扩容触发、升级方式、RPO、RTO 与厂商支持,再比较部署选项。
架构规则:私有数据面不等于私有控制面,也不等于完整自托管产品。
控制边界验证
- 画出准确的 SaaS、VPC、集群与供应商网络路径,包括元数据和遥测出口。
- 按文档化运营路径部署一个网关实例,并执行密钥轮换、策略更新、升级、扩容、备份与恢复。
- 运行工具调用、结构化输出、流式和强制故障,并检查路由、护栏、日志、追踪、成本与审计记录。
- 与安全团队共同验证身份、私有连接、租户、区域和数据保留要求。
- 计算软件加集群、存储、出口、值班、升级、灾备演练与支持的成本。
迁移策略、平台状态与运营手册
导出供应商、密钥、模型、路由、限额、预算、护栏、提示词、用户、角色、日志、追踪与成本;同时盘点部署清单、上游密钥、网络策略、存储、仪表盘、告警、备份和 Runbook。双轨运行一个负载并核对策略与证据,完成一次升级和回滚后再迁移下一团队。
部署控制与能力发现互补
Portkey 或 TrueFoundry 可以治理模型、网关和平台流量;QVeris 作为互补层,帮助智能体发现外部 API、数据与工具,并在受控契约和凭证下调用。每次下游能力调用都应保留控制边界元数据与调用链上下文。
FAQ
其文档包含开源网关与自托管路径;应核对所需组件、版本、支持和控制面边界。
不是。其文档平台范围还包括 AI 部署、模型、服务、智能体、MCP、治理与多种安装模式。
托管 SaaS 网关通常减少初始基础设施工作,但还取决于安全审查、集成、身份和数据边界要求。
应把控制拆成数据、网关、控制和计算平面;比较精确部署契约,而不是比较“私有”这个词。
官方资料与延伸阅读
继续使用经过验证的 QVeris 入口
先检查具体的 检查 AI Gateway 模型及其实际 Provider 详情。后续任务匹配时,可继续阅读 QVeris CLI、免费 10-K API或免费加密货币价格 API。
从研究进入经过验证的调用
连接生产工作流之前,先检查准确的能力与 Provider 契约。
检查 AI Gateway 模型