하나의 게이트웨이로 모든 대형 모델까지AICoding을 위해탄생
여러 곳에 계정을 만들고 청구서를 나눠 관리할 필요가 없습니다. API 키 하나, 콘솔 하나로 모든 주요 대형 모델을 통합 연동하세요 — 과금, 속도 제한, 관측이 기본 탑재되어 있습니다.
- Claude Code
- Codex CLI
- Cursor
- Cline
- Roo Code
- OpenAI SDK
- Gemini CLI
- Cherry Studio
제품 기능
게이트웨이에 필요한 것, 모두 여기에
연동, 과금, 관측, 장애 대응을 아우르는 여섯 가지 기능으로 장기적으로 의지할 수 있는 모델 기반을 완성합니다.
통합 연동
Chat, Responses, Messages, Embeddings, Rerank 5가지 프로토콜을 하나의 엔드포인트로 모두 커버하며, 이미지와 오디오 비동기 작업도 바로 사용할 수 있습니다.
투명한 과금
모델 입력/출력별로 각각 과금하고, 쿼터, 거래 내역, 충전 내역을 실시간으로 조회할 수 있습니다. 모든 결제 건에 요청 단위 감사 기록이 남습니다.
실시간 관측
첫 토큰 레이턴시, 성공률, token 사용량을 요청별로 추적할 수 있고, 추세 차트와 상세 테이블이 같은 출처의 데이터를 사용해 양쪽을 서로 맞춰볼 필요가 없습니다.
스마트 라우팅
같은 모델에 여러 채널을 연결하고 우선순위와 가중치로 트래픽을 분배할 수 있으며, 조직별로 서로 다른 라우팅을 지정할 수도 있습니다.
장애 채널 자동 격리
채널 헬스 체크가 자동으로 실행되어 비정상 채널은 즉시 격리되고 사용 가능한 업스트림으로 전환됩니다. 사람이 지켜볼 필요가 없습니다.
조직과 쿼터
API 키를 조직 단위로 관리하고, 멤버, 초대, 쿼터 조정까지 전부 기록에 남아 팀이 하나의 계정 풀을 공유하기에 적합합니다.
5분이면 연동
공식 SDK와 호환, 코드 한 줄도 수정할 필요 없음
base URL을 YiTuoToken로 바꾸고 키만 교체하면 기존 프로젝트가 그대로 혜택을 받습니다.
curl http://183.240.79.21:52099/v1/chat/completions \n -H "Authorization: Bearer $YITUOTOKEN_API_KEY" \n -H "Content-Type: application/json" \n -d '{
"model": "gpt-5.2",
"messages": [{ "role": "user", "content": "안녕하세요" }]
}'HTTP 클라이언트만 있으면 어떤 언어든 사용할 수 있습니다.
- 대화
/v1/chat/completions - 응답
/v1/responses - Messages
/v1/messages - 임베딩
/v1/embeddings - 리랭크
/v1/rerank
게이트웨이 메커니즘
요청 하나가 거치는 네 단계
키 검증부터 쿼터 정산까지 모든 단계에 기록이 남아, 문제가 생기면 정확히 어느 단계인지 특정할 수 있습니다.
- 01
인증과 소속 확인
API 키를 검증하고 소속 조직과 사용 가능한 모델 범위를 확인합니다.
- 02
라우팅 선정
해당 모델을 처리하는 채널 중에서 우선순위와 가중치로 사용 가능한 업스트림을 선택합니다.
- 03
전달과 장애 대응
업스트림 프로토콜로 통일해 변환하고 스트리밍으로 응답하며, 비정상 채널은 자동으로 격리하고 다시 시도합니다.
- 04
계량과 기록
표현식으로 쿼터를 정산하고 원자적으로 차감해 요청 기록과 감사 로그에 남깁니다.
과금과 관측
모든 결제 건이 서로 맞아 떨어집니다
- 입력과 출력을 각각 과금하며, 가격은 모델 카탈로그에 공개됩니다
- 쿼터, 거래 내역, 충전 주문 세 장부가 서로 일치합니다
- 관리자의 쿼터 조정은 감사 로그에 기록되어 작업을 추적할 수 있습니다
- 새 요청에는 유효 잔액이 0보다 큰 것이 요구되므로 초과분이 조용히 발생하지 않습니다
보안과 컴플라이언스
키는 유출되지 않고, 작업은 추적 가능합니다
- 업스트림 키는 AES-256-GCM으로 암호화해 저장되며, 평문은 보안 경계 밖으로 나가지 않습니다
- 로그인 상태는 이중 토큰 방식입니다: 단기 액세스 토큰 + 장기 리프레시 토큰
- 민감한 작업은 전부 감사 로그에 기록되며, 작업 유형별로 필터링할 수 있습니다
- 배포 측에서 Host 화이트리스트와 교차 사이트 요청 출처 검증이 활성화되어 있습니다
자주 묻는 질문
연동 전에 궁금할 수 있는 것들
기존 코드를 수정해야 하나요?
아니요. base URL을 YiTuoToken로 바꾸고 키만 교체하면 됩니다. OpenAI와 Anthropic 공식 SDK 모두 초기화 파라미터만 바꾸면 되고, 비즈니스 호출 코드는 그대로 유지됩니다.
스트리밍 출력을 지원하나요?
지원합니다. 스트리밍과 비스트리밍이 같은 게이트웨이 코어를 통과하며, 첫 토큰 레이턴시와 총 소요 시간이 요청별로 기록되어 사용량 페이지에서 바로 확인할 수 있습니다.
특정 업스트림이 다운되면 어떻게 되나요?
채널 헬스 체크가 자동으로 실행되어 비정상 채널이 격리되고, 요청은 같은 모델의 다른 사용 가능 채널로 전달됩니다. 해당 모델에 실제로 사용 가능한 채널이 없다면 요청은 오래 걸리지 않고 빠르게 실패합니다.
과금 정밀도는 어떻게 보장되나요?
모든 쿼터 계산은 과금 엔진에 집중되어 표현식으로 정산됩니다. 차감은 원자적 업데이트와 요청 고유 식별자로 수행되어, 동시성 상황에서 중복 차감이나 잔액 오버플로가 발생하지 않습니다.
잔액이 부족하면 어떻게 처리되나요?
새 요청은 전송 전에 유효 잔액을 검증하며, 부족하면 바로 거부됩니다. 업스트림 비용이 이미 발생한 경우에는 정산 단계에서 잔액이 음수가 되는 것이 허용되고, 미지급분은 다음 충전 시 상계됩니다.
팀 여러 명이 사용할 때는 어떻게 관리하나요?
조직 단위로 멤버와 키를 관리하며, 멤버 초대, 활성 조직 전환, 조직별 라우팅 정책 지정을 지원합니다. 쿼터 소모는 조직별로 집계됩니다.