已安装 LiteLLM
LiteLLM 代理服务器或 Python SDK 均可。
LiteLLM 集成
通过 ChinaAPI 在 LiteLLM 中使用中国 AI 模型
在 LiteLLM 代理或 Python SDK 中将 ChinaAPI 添加为 OpenAI-compatible 后端，即可用一个密钥把应用路由到中国模型。
准备工作
编辑配置之前
ChinaAPI 端点
Base URL 为 https://api.chinaapi.ai/v1。API keys 在“控制台 -> 令牌管理”中创建。
代理配置
使用 openai/<model> 条目配置 config.yaml。
model_list:
- model_name: deepseek-fast
litellm_params:
model: openai/deepseek-flash
api_base: https://api.chinaapi.ai/v1
api_key: os.environ/CHINAAPI_API_KEY
- model_name: kimi-code
litellm_params:
model: openai/kimi-k2.7-code
api_base: https://api.chinaapi.ai/v1
api_key: os.environ/CHINAAPI_API_KEY
- model_name: qwen-max
litellm_params:
model: openai/qwen3.7-max
api_base: https://api.chinaapi.ai/v1
api_key: os.environ/CHINAAPI_API_KEYexport CHINAAPI_API_KEY="sk-..."
litellm --config config.yaml --port 4000Python SDK
从 LiteLLM 直接调用 ChinaAPI
import os
from litellm import completion
response = completion(
model="openai/deepseek-flash",
api_base="https://api.chinaapi.ai/v1",
api_key=os.environ["CHINAAPI_API_KEY"],
messages=[{"role": "user", "content": "Say LiteLLM is connected to ChinaAPI."}],
stream=True,
)
for chunk in response:
print(chunk, end="")deepseek-flash
快速的兜底路由，适合对话、编码辅助和 Agent 循环。
kimi-k2.7-code
适合仓库级任务和较长会话的编码路由。
qwen3.7-max
推理密集型路由，适用于质量比延迟更重要的场景。
glm-5.2
长上下文路由，适合较大的文档和代码库。
MiniMax-M3
多模态编码与长上下文模型，可用作备选路由。
故障排查
LiteLLM 常见问题
思考模型如 qwen3.7-max 可能会在最终输出前生成推理 tokens。请在经由 LiteLLM 调用的客户端中使用流式输出，或调高上游/客户端的超时时间。
找不到模型： 请核对确切的 model ID，参见 实时价格，然后更新 litellm_params.model。保留 openai/ 前缀，以便进行 OpenAI-compatible 路由。
401: 请确认 CHINAAPI_API_KEY 解析为一个 sk-... 密钥，且 LiteLLM 会把它作为服务商 API key 传入。
价格与注册
在你的 LiteLLM 网关背后使用与网关同步的 token 价格
Standard 模型价格按厂商国际刊例价的 100% 执行；部分模型在首次充值后另有 Paid 价。注册即可获得 $2 免费额度，路由生产流量前请先查看实时价格。