19. ベストプラクティス#

1. キーはバックエンドで保持： API キーをフロントエンド / モバイルアプリに露出させず、独自のバックエンドプロキシ経由で転送してください。
2. 環境の分離： 本番とテストでそれぞれ独立したキーを作成し、適切なクォータを設定してリスクを分離してください。
3. ストリーミングの活用： ユーザー向けの対話シーンでは stream: true を有効にすると、最初のトークンが返るまでの時間が大幅に短縮されます。
4. コンテキスト長の制御： マルチターン会話では、履歴メッセージを必要に応じてトリミングし、トークンとコストを節約してください。
5. 再試行とタイムアウトの実装： リクエストに適切なタイムアウトを設定し、再試行可能なエラーにはバックオフ付きで再試行してください。
6. 呼び出し前にモデルを確認： 連携の初期段階で GET /v1/models によりモデル名を確認し、404 を回避してください。
7. 使用量の監視： コンソールの使用量と請求を定期的に確認し、クォータアラートを設定してください。