产品能力
网关该有的,都在这里
六项能力覆盖接入、计费、观测与容灾,构成一个可长期依赖的模型底座。
统一接入
Chat、Responses、Messages、Embeddings、Rerank 五种协议一个端点全覆盖,图像与语音异步任务开箱即用。
透明计费
按模型输入 / 输出分别计价,额度、流水、充值明细实时可查,每一笔扣费都有请求级审计记录。
实时可观测
首字延迟、成功率、token 用量逐请求可追溯,趋势图与明细表同源,不用两边对账。
智能路由
同一模型可挂多条通道,按优先级与权重分配流量,也可为不同组织指定不同路由。
故障自动摘除
通道健康巡检自动触发,异常通道即时摘除并切换到可用上游,不需要人工盯守。
组织与配额
API 密钥按组织维度管理,成员、邀请、额度调整全程留痕,适合团队共用一个账号池。
五分钟接入
兼容官方 SDK,代码一行不用改
把 base URL 指向 YiTuoToken,换上你的密钥,现有工程直接受益。
curl http://183.240.79.21:52099/v1/chat/completions \n -H "Authorization: Bearer $YITUOTOKEN_API_KEY" \n -H "Content-Type: application/json" \n -d '{
"model": "gpt-5.2",
"messages": [{ "role": "user", "content": "你好" }]
}'任意语言都能用,只要 HTTP 客户端。
- 对话
/v1/chat/completions - 响应
/v1/responses - Messages
/v1/messages - 向量
/v1/embeddings - 重排
/v1/rerank
网关机制
一次请求经过的四步
从密钥校验到额度结算,每一步都留痕,出问题能定位到具体环节。
- 01
鉴权与归属
校验 API 密钥,解析其所属组织与可用模型范围。
- 02
路由选路
在承载该模型的通道中,按优先级与权重选出可用上游。
- 03
转发与容灾
统一转换为上游协议并流式回传,异常通道自动摘除重试。
- 04
计量与留痕
按表达式结算额度,原子扣费并写入请求记录与审计日志。
计费与观测
每一笔扣费都对得上
- 输入与输出分别计价,价格随模型目录公示
- 额度、交易流水、充值订单三张台账互相对得上
- 管理员调整额度会写入审计日志,操作可回溯
- 新请求要求有效余额大于零,避免超额静默发生
安全与合规
密钥不外泄,操作可追溯
- 上游密钥以 AES-256-GCM 加密落库,明文不出安全边界
- 登录态采用双 token:短期访问令牌 + 长期刷新令牌
- 敏感操作全量写入审计日志,可按操作类型筛选
- 部署侧启用 Host 白名单与跨站请求来源校验
常见问题
接入前你可能想知道
需要改造现有代码吗?
不需要。把 base URL 指向 YiTuoToken、换上你的密钥即可。OpenAI 与 Anthropic 两种官方 SDK 都只改初始化参数,业务调用保持原样。
支持流式输出吗?
支持。流式与非流式走同一套网关核心,首字延迟与总耗时逐请求记录,可在用量页直接查看。
某个上游挂了会怎样?
通道健康巡检会自动触发,异常通道被摘除,请求改由同一模型的其他可用通道承接。若该模型确实没有可用通道,请求会快速失败而不是长时间挂起。
计费精度如何保证?
所有额度计算集中在计费引擎,按表达式结算;扣费使用原子更新并带请求唯一标识,避免并发下的重复扣减或余额溢出。
余额不足时会怎样处理?
新请求在下发前校验有效余额,不足则直接拒绝。若上游成本已经发生,结算阶段允许余额转为负值,欠额在下一次充值后冲抵。
团队多人使用怎么管理?
以组织为单位管理成员与密钥,支持邀请成员、切换活跃组织与按组织指定路由策略,额度消耗按组织归集。