產品能力
閘道該有的，都在這裡
六項能力涵蓋串接、計費、觀測與容錯，構成一個可長期依賴的模型基座。
統一串接
Chat、Responses、Messages、Embeddings、Rerank 五種協定一個端點全覆蓋，影像與語音非同步任務開箱即用。
透明計費
按模型輸入 / 輸出分別計價，額度、交易紀錄、儲值明細即時可查，每一筆扣費都有請求級稽核紀錄。
即時可觀測
首字延遲、成功率、token 用量逐請求可追溯，趨勢圖與明細表同源，不用兩邊對帳。
智慧路由
同一模型可掛多條通道，按優先順序與權重分配流量，也可為不同組織指定不同路由。
故障自動摘除
通道健康檢查自動觸發，異常通道即時摘除並切換到可用上游，不需要人工盯守。
組織與配額
API 金鑰按組織維度管理，成員、邀請、額度調整全程留痕，適合團隊共用一個帳號池。
五分鐘串接
相容官方 SDK，程式碼一行不用改
把 base URL 指向 YiTuoToken，換上你的金鑰，現有專案直接受益。
curl http://183.240.79.21:52099/v1/chat/completions \n -H "Authorization: Bearer $YITUOTOKEN_API_KEY" \n -H "Content-Type: application/json" \n -d '{
"model": "gpt-5.2",
"messages": [{ "role": "user", "content": "你好" }]
}'任何語言都能用,只要有 HTTP 用戶端。
- 對話
/v1/chat/completions - 回應
/v1/responses - Messages
/v1/messages - 向量
/v1/embeddings - 重排
/v1/rerank
閘道機制
一次請求經過的四步
從金鑰驗證到額度結算，每一步都留痕，出問題能定位到具體環節。
- 01
身分驗證與歸屬
驗證 API 金鑰，解析其所屬組織與可用模型範圍。
- 02
路由選路
在承載該模型的通道中，按優先順序與權重選出可用上游。
- 03
轉發與容錯
統一轉換為上游協定並串流回傳，異常通道自動摘除重試。
- 04
計量與留痕
按運算式結算額度，原子扣費並寫入請求紀錄與稽核日誌。
計費與觀測
每一筆扣費都對得上
- 輸入與輸出分別計價，價格依模型目錄公示
- 額度、交易紀錄、儲值訂單三份帳本互相對得上
- 管理員調整額度會寫入稽核日誌，操作可回溯
- 新請求要求有效餘額大於零，避免超額靜默發生
安全與合規
金鑰不外洩，操作可追溯
- 上游金鑰以 AES-256-GCM 加密儲存至資料庫，明文不離開安全邊界
- 登入狀態採用雙 token：短期存取權杖 + 長期重新整理權杖
- 敏感操作全部寫入稽核日誌，可按操作類型篩選
- 部署側啟用 Host 白名單與跨站請求來源驗證
常見問題
串接前你可能想知道
需要改造現有程式碼嗎？
不需要。把 base URL 指向 YiTuoToken、換上你的金鑰即可。OpenAI 與 Anthropic 兩種官方 SDK 都只改初始化參數，業務呼叫保持原樣。
支援串流輸出嗎？
支援。串流與非串流走同一套閘道核心，首字延遲與總耗時逐請求記錄，可在用量頁直接查看。
某個上游掛了會怎樣？
通道健康檢查會自動觸發，異常通道被摘除，請求改由同一模型的其他可用通道承接。若該模型確實沒有可用通道，請求會快速失敗而不是長時間無回應。
計費精度如何保證？
所有額度計算集中在計費引擎，按運算式結算；扣費使用原子更新並帶請求唯一識別碼，避免並行下的重複扣減或餘額溢位。
餘額不足時會怎樣處理？
新請求在下發前驗證有效餘額，不足則直接拒絕。若上游成本已經發生，結算階段允許餘額轉為負值，欠額在下一次儲值後抵銷。
團隊多人使用怎麼管理？
以組織為單位管理成員與金鑰，支援邀請成員、切換活躍組織與按組織指定路由策略，額度消耗依組織彙整。