一个密钥访问所有 LLM:隔离上游密钥
安全模式是由网关解析一个面向应用的虚拟密钥。上游供应商密钥隔离保存在密钥库中,只在策略评估后选择。
发布日期:2026年3月22日 · QVeris团队制作
速览
把 App 密钥绑定到 Service Identity、租户、Environment、Owner 与 Expiry。
授权工作负载与模型能力,而不是无限制的供应商名单。
在网关内获取受限上游凭证,且永不返回应用。
记录 Principal、策略版本、候选路由、选择、用量与结果。
“一个密钥”应与不应意味着什么
一个应用密钥可以简化客户端配置并集中治理,但它不应变成永久访问所有供应商、模型和环境的宽泛共享密钥。
应把“一个密钥”理解为一个稳定的应用身份,而不是在多个系统之间复制同一份凭证。应用只向网关认证一次,网关随后判断调用者身份、所属环境、目标工作负载和可用预算,再选择符合条件的模型路由,并在可信边界内取得对应的上游凭证。
网关将经过认证的主体映射到版本化策略;供应商适配器使用权限尽可能小的独立凭证。轮换凭证或更换供应商时,无需向每个应用重新分发密钥。
这种抽象还能缩小故障与泄露的影响范围。某个应用密钥泄露时,可以只吊销对应租户或环境,而不必停用全部上游账户;供应商凭证发生事故后也能独立轮换,不影响客户端配置。如果所有虚拟密钥最终都指向同一份无限制供应商密钥,或生产流量与测试流量共用同一策略,这套设计就失去了意义。
统一凭证模式
| 模式 | 最适合 | 选择前验证 |
|---|---|---|
| 不透明虚拟密钥 | 服务端应用需要简单 Bearer Credential。 | 核对熵、一次展示、哈希、范围、过期与吊销。 |
| Identity Token | 工作负载 Identity Platform 可签发短期 Token。 | 核对 Issuer、Audience、Signature、Claim、时钟偏差与密钥 Rotation。 |
| 网关管理 SDK | 团队需要供应商中立客户端配置与遥测。 | 核对 SDK 信任、更新策略、故障切换语义与离线行为。 |
| 直接供应商密钥 | 例外路径需要原生访问。 | 核对宽泛权限、上游密钥分发、分散审计与轮换负担。 |
密钥绑定的策略
租户、Project、Service、Environment、Owner 与 Purpose。
获批模型族、工具、模态、区域与数据分类。
请求、Token、并发、支出、优先级与重置窗口。
创建、使用、策略变更、轮换、过期、吊销与删除。
红队测试统一访问
一次正常返回的模型响应只能证明路由可用。安全测试还必须证明:当身份、权限范围、生命周期状态或策略不匹配时,网关能够拒绝请求。测试应使用与生产环境相同的认证路径和策略存储,而不是经过简化的模拟实现。
- 尝试跨租户、未授权模型、过期密钥和已吊销密钥请求。
- 确认供应商密钥不会进入响应、日志、调用链或客户端资源包。
- 轮换所有上游凭证,同时保持应用侧虚拟密钥不变。
- 测试策略回滚、预算耗尽和密钥泄露后的紧急停用机制。
还要测试并发与重放行为。即使密钥设置了月度预算,如果数千个请求在支出计数收敛前同时到达,仍可能造成事故。应采用原子预算预留或受限的本地额度,明确重试时的幂等规则,并验证密钥被吊销后,新请求能在承诺的传播时间内停止。
将一个密钥解析为多个隔离凭证
网关验证应用虚拟密钥、解析内部主体并评估工作负载策略;能力路由器选择获批适配器;适配器只从密钥库获取当前供应商所需的凭证,执行调用后返回标准化输出和原生证据。
请求生命周期必须可观测。审计记录应包含应用主体、策略版本、请求能力、候选路由、所选供应商、供应商原生请求 ID、Token 用量、成本和最终状态;同时记录是哪条策略允许了调用,但绝不能记录供应商密钥本身。这样既能让开发者获得单密钥体验,也不会形成审计盲区。
控制面与请求路径也应分离。密钥创建、所有者变更、策略更新、轮换和吊销属于带审批与版本控制的控制面;运行时验证则使用有边界的策略缓存。这样控制面短暂故障时,既不会意外放开无限制访问,也不会让所有健康的推理请求同时中断。
生产规则:一个应用密钥绝不能被实现为跨系统共享的明文供应商密钥。
为推理与工具使用独立权限范围
模型网关使用虚拟密钥执行推理策略;QVeris 通过“发现 → 检查 → 调用”治理外部 API、工具、服务和实时数据。两者可以绑定同一应用主体,但凭证、预算与审计记录应保持分离。
拥有推理权限并不等于拥有执行权限。某个应用即使可以使用推理模型,也可能无权发送邮件、提交订单、查询受监管数据或读取客户记录。工具权限应明确指定能力名称、参数约束、数据分类和审批要求,而不能直接继承宽泛的模型权限。
成本控制同样需要分开。模型通常按 Token 计费,而工具可能按请求、记录、文档、数据权限或下游交易收费。把两类成本汇总到同一仪表盘有助于观察整体支出,但独立预算可以防止工具调用突增挤占推理额度,也能避免昂贵的外部动作被隐藏在一次廉价模型请求中。
继续阅读相关实施指南
通过这些相关指南继续比较下一项架构决策、实施边界或运营控制,无需重新开始调研。
FAQ
不会。它只应暴露该负载获策略批准的能力。
存于受保护的服务端密钥库,绝不进入应用或提示词。
可以。吊销其虚拟凭证不应影响无关供应商密钥。
