QVeris

竞品对比与选型

QVeris 与 Portkey:模型网关之上的能力路由

判断 QVeris 与 Portkey 的适用场景,并核对路由控制、兼容性、可观测性与运维成本。

发布日期: · QVeris团队制作

AI gateway and capability-routing architecture
与本页对比主题对应的 AI 网关与路由架构示意;图片不代表产品界面或基准测试。

概要

Portkey 管理模型流量

用网关层管理供应商凭证、配置、路由、重试、回退、缓存、限额、护栏与推理可观测性。

QVeris 管理能力选择

通过 Discover → Inspect → 调用找到外部 API、工具、数据与服务,检查契约和信号,再执行已验证能力。

二者不能互相替代

高质量模型回答不等于已执行的业务动作;可调用 API 也不会选择或治理完成推理的模型。

用证据连接两层

用同一工作流调用链连接模型决策、能力搜索、契约检查、调用、计费与最终结果。

边界在于模型决策与现实行动

Portkey 是 AI 网关与控制套件。其官方产品面覆盖统一模型访问、网关配置、重试、回退、负载均衡、缓存、限额、护栏、日志、追踪、分析、提示词与管理。

QVeris 是能力路由网络。其工作流从自然语言意图开始,返回排序后的能力,展示结构定义与信号供检查,再调用所选 API 或工具并留下执行证据;这一层位于模型推理之后。

QVeris 与 Portkey 并排比较

决策面QVerisPortkey
主要对象外部能力:API、工具、服务或实时数据模型请求、供应商、路由与策略
核心流程发现 → 检查 → 调用认证 → 路由 → 护栏 → 观测
决策信号能力匹配、结构定义、成功率、延迟、区域、成本与策略供应商/模型可用性、价格、延迟、配置、预算与护栏
证据 IDSearch、Execution、会话与下游结果请求、调用链、Config、模型、供应商、用量与护栏结果
典型负责人智能体平台与工作流工程AI 平台、安全与模型基础设施
故障问题智能体为什么选择或未能执行该能力?模型请求为何这样路由、失败、重试或产生该成本?

智能体既要推理又要行动时同时使用

用 Portkey 治理推理

跨应用统一模型供应商访问、流量行为、安全检查、预算与运行证据。

用 QVeris 治理行动

让智能体找到合适的现实能力、检查契约和运行信号,并在受控执行记录下调用。

每个决策只设一个负责人

Portkey 负责模型路由,QVeris 负责能力选择;不要让两个系统独立重试同一个下游动作。

清晰的双层生产架构

先让用户任务通过 Portkey 到达所选模型并保留调用链与策略上下文,再把智能体意图交给 QVeris Discover。在调用前检查候选能力的契约、成本和可靠性信号,并把 search_id、execution_id、结构定义版本、结果、延迟和计费金额写入同一工作流封装。

架构规则:模型重试可以自动化;有副作用的能力调用必须具备显式幂等性和动作级重试策略。

端到端技术栈验证

  • 回放代表性的模型提示、工具计划、结构化输出、能力搜索、检查与调用。
  • 强制触发供应商故障、模型超时、能力搜索为空、结构定义不匹配、下游 429 与部分动作失败。
  • 验证单一调用链能解释模型选择、能力排序、策略决策、重试、用量、成本与最终业务结果。
  • 对有副作用的调用要求幂等键、审批边界、凭证隔离与回滚证据。
  • 核对 Portkey 模型用量、QVeris 执行计费与下游供应商回执。

通过中立工作流封装集成

不要把任一供应商的请求对象当作系统记录。定义自己的 Task ID、调用链 ID、Actor、租户、策略版本、模型证据、能力证据、审批状态、预算、结果和审计时间戳;在该契约后接入 Portkey 与 QVeris 适配器,再按工作流灰度。

QVeris 是行动层,不是另一个模型网关

组合设计应是有意为之:Portkey 让模型流量可靠且受治理,QVeris 让外部能力选择与调用可检查。二者共享调用链上下文,但策略范围与重试语义应保持分离。

FAQ

QVeris 是 LLM 网关吗?

不是。QVeris 负责发现、检查并调用 API、工具、服务和实时数据等外部能力;模型网关负责治理推理流量。

两层能一起使用吗?

可以。模型选择留在网关,能力选择交给 QVeris,并在两层之间传递调用链、会话、策略与成本证据。

应该先实现哪一层?

先解决阻塞生产的瓶颈,但应在任一层难以替换之前定义共享证据封装。

端到端调用链应包含什么?

模型路由、供应商、策略版本、用量、QVeris Search/Execution ID、所选能力、结构定义版本、预估成本、结果与错误。

官方资料与延伸阅读

QVeris 与 Portkey 对比 | QVeris Guides