QVeris

AI 平台对比

Portkey 与 TrueFoundry:托管网关还是私有 AI 平台?Portkey/TrueFoundry:网关或平台

比较网关运营与私有 AI 部署平台,并为每个控制平面明确负责人。

发布日期:2026年3月23日 · QVeris团队制作

Portkey 与 TrueFoundry:托管网关还是私有 AI 平台?

速览

Portkey 偏向托管网关运营

适合希望获得路由、策略、护栏、日志、追踪、提示词、预算与管理,但不想采用更广部署平台的团队。

TrueFoundry 覆盖更广平台边界

适合同一系统需要覆盖网关平面、私有网络、模型部署、智能体工作负载、MCP、治理和云运营的组织。

自托管不是一个复选框

应分别明确数据面、网关面、控制面、计算面、元数据存储、遥测、密钥、升级、备份和支持责任。

从控制边界开始

在比较功能前,先决定什么必须留在 VPC、什么可用 SaaS、谁能发布策略、哪个团队负责故障。

托管套件与部署平台是不同范围

Portkey 的核心是以网关为中心的生产套件。官方文档覆盖通用 API 网关、路由 Config、护栏、可观测性、提示词管理、预算、限额、管理和开源网关路径。

TrueFoundry 的范围包含部署与基础设施边界。当前文档描述托管全球网关、可部署网关 Plane、完整 Control/Compute Plane、模型与服务部署、智能体/MCP 访问、治理、密钥管理、监控、云中立安装和 Kubernetes 运营。

Portkey 与 TrueFoundry 并排比较

决策面PortkeyTrueFoundry
主要范围托管网关、护栏、可观测性与提示词运营AI 网关加部署、智能体、MCP 与基础设施治理
控制边界以 SaaS 为中心,需验证网关自托管选项托管 SaaS 网关、可部署网关面或更广自托管平台
模型生命周期路由并治理对供应商的调用除路由外还可部署运营模型与服务
智能体与工具套件内的网关与 MCP 能力平台范围内的智能体 Runtime、模型网关与 MCP 网关
运营厂商托管产品,团队负责配置与集成可能需负责集群、各平面、存储、升级与灾备
最佳负责人AI 平台、安全与应用赋能团队平台工程、ML 平台与云基础设施团队

选择能覆盖边界的最小平台

这些情况选 Portkey

托管网关套件已满足路由、护栏、可观测性、提示词、预算与管理需求,无需增加模型托管运营。

这些情况选 TrueFoundry

需要私有部署、模型/服务托管、智能体 Runtime、MCP、Kubernetes、云治理或更广 AI 平台路线。

这些情况先暂停

方案只写“自托管”,却没有组件图、容量、升级模式、备份设计、支持边界或已验证恢复目标。

为每个平面编写责任矩阵

列出网关数据面、控制面、计算面、UI/API、身份、策略存储、密钥、遥测、模型注册表、制品存储、数据库、队列、缓存、DNS、证书、备份与灾备。逐项记录位置、负责人、访问路径、数据分类、扩容触发、升级方式、RPO、RTO 与厂商支持,再比较部署选项。

架构规则:私有数据面不等于私有控制面,也不等于完整自托管产品。

控制边界验证

  • 画出准确的 SaaS、VPC、集群与供应商网络路径,包括元数据和遥测出口。
  • 按文档化运营路径部署一个网关实例,并执行密钥轮换、策略更新、升级、扩容、备份与恢复。
  • 运行工具调用、结构化输出、流式和强制故障,并检查路由、护栏、日志、追踪、成本与审计记录。
  • 与安全团队共同验证身份、私有连接、租户、区域和数据保留要求。
  • 计算软件加集群、存储、出口、值班、升级、灾备演练与支持的成本。

迁移策略、平台状态与运营手册

导出供应商、密钥、模型、路由、限额、预算、护栏、提示词、用户、角色、日志、追踪与成本;同时盘点部署清单、上游密钥、网络策略、存储、仪表盘、告警、备份和 Runbook。双轨运行一个负载并核对策略与证据,完成一次升级和回滚后再迁移下一团队。

部署控制与能力发现互补

Portkey 或 TrueFoundry 可以治理模型、网关和平台流量;QVeris 作为互补层,帮助智能体发现外部 API、数据与工具,并在受控契约和凭证下调用。每次下游能力调用都应保留控制边界元数据与调用链上下文。

FAQ

Portkey 能自托管吗?

其文档包含开源网关与自托管路径;应核对所需组件、版本、支持和控制面边界。

TrueFoundry 只是 AI 网关吗?

不是。其文档平台范围还包括 AI 部署、模型、服务、智能体、MCP、治理与多种安装模式。

哪个启动更快?

托管 SaaS 网关通常减少初始基础设施工作,但还取决于安全审查、集成、身份和数据边界要求。

哪个控制力更强?

应把控制拆成数据、网关、控制和计算平面;比较精确部署契约,而不是比较“私有”这个词。

官方资料与延伸阅读

从研究进入经过验证的调用

连接生产工作流之前,先检查准确的能力与 Provider 契约。

检查 AI Gateway 模型
Portkey 与 TrueFoundry:托管网关还是私有 AI 平台? | QVeris Guides