LiteLLM 통합

ChinaAPI를 통해 중국 AI 모델과 LiteLLM을 함께 사용하세요.

ChinaAPI LiteLLM 프록시 또는 Python SDK 의 OpenAI-compatible 백엔드로 추가한 다음 하나의 키로 애플리케이션을 공식 가격의 중국 모델로 라우팅합니다.

필수 조건

설정을 편집하기 전에.

LiteLLM이 설치되었습니다

LiteLLM 프록시 서버 또는 Python SDK 중 하나를 사용하십시오.

ChinaAPI 엔드포인트

Base URL 는 https://api.chinaapi.ai/v1. API keys 는 대시보드 -> 콘솔 -> 토큰에서 생성됩니다.

프록시 설정

사용 openai /<모델> 항목 config.yaml.

model_list:
  - model_name: deepseek-fast
    litellm_params:
      model: openai/deepseek-v4-flash
      api_base: https://api.chinaapi.ai/v1
      api_key: os.environ/CHINAAPI_API_KEY

  - model_name: kimi-code
    litellm_params:
      model: openai/kimi-k2.7-code
      api_base: https://api.chinaapi.ai/v1
      api_key: os.environ/CHINAAPI_API_KEY

  - model_name: qwen-max
    litellm_params:
      model: openai/qwen3.7-max
      api_base: https://api.chinaapi.ai/v1
      api_key: os.environ/CHINAAPI_API_KEY
export CHINAAPI_API_KEY="sk-..."
litellm --config config.yaml --port 4000

Python SDK

LiteLLM에서 ChinaAPI를 직접 호출하세요.

import os
from litellm import completion

response = completion(
    model="openai/deepseek-v4-flash",
    api_base="https://api.chinaapi.ai/v1",
    api_key=os.environ["CHINAAPI_API_KEY"],
    messages=[{"role": "user", "content": "Say LiteLLM is connected to ChinaAPI."}],
    stream=True,
)

for chunk in response:
    print(chunk, end="")

추천 모델

좋은 LiteLLM 경로입니다.

최신 모델 세부 정보 및 비율 증거는 다음을 참조하십시오. DeepSeek-V4 그리고 Kimi K2.7 생산 경로를 설정하기 전에.

deepseek-v4-flash

채팅, 코딩 지원 및 상담원 연결 루프에 대한 빠른 대체 경로입니다.

kimi-k2.7-code

저장소 수준 작업 및 장시간 작업에 적합한 코딩 경로입니다.

qwen3.7-max

지연 시간보다 품질이 더 중요한 경우 추론이 많이 필요한 경로입니다.

glm-5.2

대규모 문서 및 코드베이스를 위한 롱 컨텍스트 경로.

MiniMax-M3

대체 경로 설정을 위한 멀티모달 코딩 및 장기 컨텍스트 모델.

문제 해결

LiteLLM에서 흔히 발생하는 문제.

사고 모델에는 다음과 같은 것들이 있습니다. qwen3.7-max 최종 출력 전에 추론 토큰을 생성할 수 있습니다. LiteLLM 뒤에 있는 클라이언트에서 스트리밍을 사용하거나 업스트림/클라이언트 시간 초과를 발생시키십시오.

모델을 찾을 수 없습니다. 정확한 model ID 값을 확인하세요 실시간 가격그런 다음 업데이트하세요 litellm_params .모델. 유지하세요 openai / OpenAI-compatible 을 위한 접두사입니다.

401 : 확인하다 CHINAAPI_API_KEY 해결됩니다 sk-... 키와 LiteLLM 는 이를 제공자 API key 로 전달합니다.

가격 및 가입

LiteLLM 게이트웨이 뒤에서 게이트웨이 동기화 토큰 가격 책정을 사용하십시오.

설정에 따라 요금은 제공업체의 공식 중국 가격표를 따를 수 있습니다. $2 무료 크레딧을 받으려면 등록 후 실제 가격을 확인하고 프로덕션 트래픽을 라우팅하세요.