ChinaAPI를 통해 중국 AI 모델과 LiteLLM을 함께 사용하세요.

프록시 설정

다음을 사용하세요: openai/<model> 항목을 담은 config.yaml.

model_list:
  - model_name: deepseek-fast
    litellm_params:
      model: openai/deepseek-flash
      api_base: https://api.chinaapi.ai/v1
      api_key: os.environ/CHINAAPI_API_KEY

  - model_name: kimi-code
    litellm_params:
      model: openai/kimi-k2.7-code
      api_base: https://api.chinaapi.ai/v1
      api_key: os.environ/CHINAAPI_API_KEY

  - model_name: qwen-max
    litellm_params:
      model: openai/qwen3.7-max
      api_base: https://api.chinaapi.ai/v1
      api_key: os.environ/CHINAAPI_API_KEY

export CHINAAPI_API_KEY="sk-..."
litellm --config config.yaml --port 4000

Python SDK

LiteLLM에서 ChinaAPI를 직접 호출하세요.

import os
from litellm import completion

response = completion(
    model="openai/deepseek-flash",
    api_base="https://api.chinaapi.ai/v1",
    api_key=os.environ["CHINAAPI_API_KEY"],
    messages=[{"role": "user", "content": "Say LiteLLM is connected to ChinaAPI."}],
    stream=True,
)

for chunk in response:
    print(chunk, end="")

문제 해결

LiteLLM에서 흔히 발생하는 문제.

사고 모델인 qwen3.7-max 등은 최종 출력 전에 추론 토큰을 생성할 수 있습니다. LiteLLM 뒤에 있는 클라이언트에서 스트리밍을 사용하거나 업스트림/클라이언트 타임아웃을 늘리세요.

모델을 찾을 수 없음: 정확한 model ID를 실시간 가격에서 확인한 뒤 litellm_params.model을 업데이트하세요. OpenAI-compatible 라우팅을 위해 openai/ 접두사는 그대로 유지하세요.

401: 설정한 CHINAAPI_API_KEY 값이 sk-... 키로 해석되는지, 그리고 LiteLLM이 이를 공급자 API key로 전달하고 있는지 확인하세요.