19. 最佳實務#
- 金鑰由後端持有: 不要在前端 / 行動裝置暴露 API Key,透過你自己的後端代理轉發。
- 區分環境: 為生產、測試分別建立獨立 Key,並設定合理配額,隔離風險。
- 善用串流: 面向使用者的對話情境開啟
stream: true,顯著提升首字回應體驗。 - 控制上下文長度: 多輪對話按需裁剪歷史訊息,節省 Token 與成本。
- 實作重試與逾時: 為請求設定合理逾時,並對可重試錯誤做退避重試。
- 先查模型再呼叫: 整合初期用
GET /v1/models核對模型名,避免404。 - 監控用量: 定期查看控制台用量與帳單,設定配額警示。