政企 AI 基础设施 · 两级联邦网关

全网模型流量
一个网关治理

两级联邦架构 · 毫秒级配额 · 性能感知调度 · 数据不出域

模型在爆发,混乱也在蔓延。协议不一、密钥失控、账算不清、合规悬空——我们用一套两级联邦网关,把它全部收进一个治理体系。

一级网关 · 中心控制面

统一模型目录 | 纳管与策略下发 | 全网用量归因 | 统一拓扑与审计

二级网关 · 资源池 A本地鉴权 · 专属隔离
二级网关 · 资源池 B健康检查 · 指标回流
二级网关 · 资源池 C策略本地生效 · 摘挂
毫秒级配额执行30 秒拓扑刷新≥50 个二级网关纳管
两级联邦一级统筹 | 站点自治
≥50 个二级网关纳管规模
毫秒级配额执行时延
≥99.9%网关服务可用性

先回答三个问题

如果这三个问题让你犹豫,你需要的正是佳杰云星模型网关

01

你的组织里,有多少个团队在直连模型厂商的 API?

密钥散落在个人手中,厂商一旦限流涨价,全线业务跟着波动。

02

上季度每个部门消耗了多少 Token,你答得上来吗?

没有归因体系,成本就是一笔糊涂账,预算永远压不准。

03

模型出事故那次,你花了多久定位到哪条路由?

缺少性能指标与摘挂记录,排障靠翻日志,一小时起步。

六大能力,一套治理体系

不是把开源网关换个皮肤,而是补齐政企客户真正缺的运营治理层

01

统一入口

兼容 OpenAI 协议,一个地址调用全网模型。新增模型:数周 → 数小时。应用零改造,厂商随意换。

统一接入 →
02

两级联邦

一级网关管全局,二级网关管资源池。中心下发策略、本地即时生效;站点即插即用。一级故障,二级自动降级本地执行——业务不因中心宕机停摆。

两级联邦 →
03

性能感知调度

首字耗时优先、每 Token 耗时优先、最小连接数三种策略动态选路。后端劣化自动摘除、恢复自动回挂,配置版本化一键回滚。

智能调度 →
04

Token 一本账

组织树逐级配额、子级之和硬约束父级上限,日/周/月自动重置。组织 → 部门 → 用户 → 应用四级归因,每一枚 Token 都知道去哪儿了。

配额归因 →
05

安全围栏

六类风险双向检查:内容合规 / 提示词攻击 / 敏感数据 / 恶意网址 / 模型幻觉 / 自定义标签。拦截 + 脱敏双动作,本地化检测扩展,敏感数据不出域。

安全围栏 →
06

全景可观测

统一拓扑 30 秒刷新全网状态;首字耗时、每 Token 耗时实时可视;告警多通道触达,定位从小时级到分钟级。

数字一览 →

两级联邦,中心建一张网

策略在中心统一定义,调用在资源池本地执行——管控与性能兼得

一级网关 · 中心控制面

统一模型目录 | 二级网关纳管 | 策略统一下发 | 全网用量归因 | 统一拓扑与审计

资源池 A二级网关 · 省属节点 A本地接入鉴权 · 专属模型隔离
资源池 B二级网关 · 省属节点 B健康检查 · 指标回流
资源池 C二级网关 · 省属节点 C策略本地生效 · 自动摘挂

站点即插即用 · 拓扑状态 30 秒 刷新 · 一级故障时二级 自动降级本地执行

对比开源,多出一整个治理层

开源 Higress 是优秀的通用基座;政企要的,是它之上那一层

能力维度开源 Higress 原生佳杰云星模型网关
组网形态单集群,跨站点各自为政两级联邦:一级控制面 + N 个二级网关,即插即用
配额治理单调用方额度插件组织树多级配额 + 层级硬约束 + 周期重置 + 审计
用量归因Token 指标与日志四级归因 + 账单周期计量 + 导出对账
模型资产分发统一目录与分发平台内多级实例模型/镜像两级同步、下载中心、状态回传
模型资产运营用户侧模型门户模型广场:上架/订阅/额度系数/调用文档一体化
调用方管理消费者即密钥消费者—组织—用户—应用四维归属建模
限流管理逐个配置密钥前缀命名空间,一策批量管理
安全围栏依赖外部云服务内置围栏 + 本地检测扩展,数据不出域
信创适配依赖社区生态国产数据库兼容 + NPU/GPU 异构接入 + 私有化部署

开源给了一个网关,我们给了政企一套治理体系。

说明:开源 Higress 提供 AI 代理、Token 限流、语义缓存等通用能力;佳杰云星模型网关在其上补齐政企必需的运营治理层,私有化交付与本地服务保障落地。

用数字说话

关键指标,一目了然

≥50 个二级网关纳管规模
毫秒级配额执行时延
≥99.9%网关服务可用性
30 秒全网拓扑状态刷新
数周→数小时新增模型接入周期
时→分故障定位周期

五个词,记住我们

一张网

站点即插即用,全网状态尽收一屏。

一个口

一次对接,全网模型随取随用。

一本账

Token 从组织到单次调用全程可溯。

一条线

策略中心定义,资源池即时生效。

一双眼睛

性能、健康、审计,全局汇聚。

典型场景

多级组织统分结合

多级集团组织

总部通用模型全网共享、省属专属模型本地隔离,用量按网关归因,支撑成本分摊。

脉冲洪峰弹性扩容

高强度脉冲业务

单场次数万至数十万文档分析,弹性扩容编排 + 差异化路由分组 + 熔断保护,毫秒级转发增量时延。

零改造即插即用

智能体平台底座

平台服务地址指向网关即获全网模型能力,零代码改造。

模型广场自助运营

模型资产运营

模型广场统一发布,额度系数透明,订阅取钥计量自助。

把混乱留给过去,把秩序交给网关

预约技术演示——两级网关心跳、下发、摘挂、降级全流程实测 | 获取《佳杰云星模型网关产品白皮书》