제19장 / 총 21장약 1분

19. 모범 사례#

  1. 키는 백엔드에 보관: 프런트엔드 / 모바일에 API 키를 노출하지 말고 자체 백엔드 프록시를 경유해 전달하세요.
  2. 환경 분리: 프로덕션과 테스트에 각각 독립 키를 만들고 적절한 쿼터를 설정해 위험을 격리하세요.
  3. 스트리밍 활용: 사용자 대면 대화 시나리오에서 stream: true를 켜면 첫 토큰 응답 체험이 크게 개선됩니다.
  4. 컨텍스트 길이 제어: 멀티턴 대화에서는 필요에 따라 과거 메시지를 잘라 내 토큰과 비용을 절약하세요.
  5. 재시도와 타임아웃 구현: 요청에 적절한 타임아웃을 설정하고, 재시도 가능한 오류에는 백오프 재시도를 적용하세요.
  6. 호출 전 모델 확인: 통합 초기에 GET /v1/models로 모델명을 확인해 404를 방지하세요.
  7. 사용량 모니터링: 콘솔의 사용량과 청구 내역을 정기적으로 확인하고 쿼터 알림을 설정하세요.