ChinaAPIを介して、LiteLLMを中国のAIモデルと連携させて使用してください。

プロキシ設定

使用するのは openai/<model> エントリです。記述先は config.yaml。

model_list:
  - model_name: deepseek-fast
    litellm_params:
      model: openai/deepseek-flash
      api_base: https://api.chinaapi.ai/v1
      api_key: os.environ/CHINAAPI_API_KEY

  - model_name: kimi-code
    litellm_params:
      model: openai/kimi-k2.7-code
      api_base: https://api.chinaapi.ai/v1
      api_key: os.environ/CHINAAPI_API_KEY

  - model_name: qwen-max
    litellm_params:
      model: openai/qwen3.7-max
      api_base: https://api.chinaapi.ai/v1
      api_key: os.environ/CHINAAPI_API_KEY

export CHINAAPI_API_KEY="sk-..."
litellm --config config.yaml --port 4000

Python SDK

LiteLLMからChinaAPIを直接呼び出してください。

import os
from litellm import completion

response = completion(
    model="openai/deepseek-flash",
    api_base="https://api.chinaapi.ai/v1",
    api_key=os.environ["CHINAAPI_API_KEY"],
    messages=[{"role": "user", "content": "Say LiteLLM is connected to ChinaAPI."}],
    stream=True,
)

for chunk in response:
    print(chunk, end="")

トラブルシューティング

LiteLLMによくある問題点。

たとえば qwen3.7-max などの思考モデルは、最終出力の前に推論トークンを生成することがあります。LiteLLM の背後にあるクライアントでストリーミングを使うか、アップストリーム／クライアントのタイムアウトを延ばしてください。

モデルが見つからない場合：正確な model ID を最新料金で確認してから、litellm_params.modelを更新してください。openai/ プレフィックスは OpenAI-compatible のルーティングに使うため、そのまま残してください。

401: 次の点を確認してください：CHINAAPI_API_KEY が sk-... 形式のキーに解決され、LiteLLM がそれをプロバイダーの API key として渡していること。