Integração LiteLLM

Utilize o LiteLLM com modelos de IA chineses através da ChinaAPI.

Adicione a ChinaAPI como backend OpenAI-compatible no LiteLLM proxy ou no Python SDK e encaminhe as aplicações para modelos chineses com uma única chave.

Pré-requisitos

Antes de editar a configuração.

LiteLLM instalado

Utilize o servidor proxy LiteLLM ou o SDK Python.

Endpoint ChinaAPI

A Base URL é https://api.chinaapi.ai/v1. Os API keys são criados em Painel -> Console -> Tokens.

Configuração de proxy

Use openai/<model> nas entradas do config.yaml.

model_list:
  - model_name: deepseek-fast
    litellm_params:
      model: openai/deepseek-flash
      api_base: https://api.chinaapi.ai/v1
      api_key: os.environ/CHINAAPI_API_KEY

  - model_name: kimi-code
    litellm_params:
      model: openai/kimi-k2.7-code
      api_base: https://api.chinaapi.ai/v1
      api_key: os.environ/CHINAAPI_API_KEY

  - model_name: qwen-max
    litellm_params:
      model: openai/qwen3.7-max
      api_base: https://api.chinaapi.ai/v1
      api_key: os.environ/CHINAAPI_API_KEY
export CHINAAPI_API_KEY="sk-..."
litellm --config config.yaml --port 4000

SDK Python

Acesse a ChinaAPI diretamente do LiteLLM.

import os
from litellm import completion

response = completion(
    model="openai/deepseek-flash",
    api_base="https://api.chinaapi.ai/v1",
    api_key=os.environ["CHINAAPI_API_KEY"],
    messages=[{"role": "user", "content": "Say LiteLLM is connected to ChinaAPI."}],
    stream=True,
)

for chunk in response:
    print(chunk, end="")

Modelos recomendados

Boas rotas LiteLLM.

Para detalhes atuais dos modelos e evidências de preços, consulte DeepSeek-V4 Flash e Kimi K2.7 Code antes de definir uma rota de produção.

deepseek-flash

Rota alternativa rápida para bate-papo, ajuda com programação e loops de agentes.

kimi-k2.7-code

Boa rota de codificação para tarefas em nível de repositório e sessões mais longas.

qwen3.7-max

Rota que exige muito raciocínio quando a qualidade importa mais do que a latência.

glm-5.2

Rota de contexto longo para documentos e bases de código maiores.

MiniMax-M3

Codificação multimodal e modelo de contexto longo para roteamento alternativo.

Solução de problemas

Problemas comuns do LiteLLM.

Modelos de raciocínio como qwen3.7-max podem gerar tokens de raciocínio antes da saída final. Use streaming nos clientes que ficam atrás do LiteLLM ou aumente os tempos limite do upstream/cliente.

Modelo não encontrado: verifique o model ID exato na página de preços em tempo real, depois atualize litellm_params.model. Mantenha o prefixo openai/ para o roteamento OpenAI-compatible.

401: confirme que CHINAAPI_API_KEY resolve para uma chave sk-... e que o LiteLLM a está repassando como o API key do provedor.

Preços e inscrição

Utilize a precificação de tokens sincronizada com o gateway por trás do seu gateway LiteLLM.

Os preços Standard dos modelos seguem 100% dos preços de tabela internacionais dos provedores; alguns modelos têm um preço Paid separado após a primeira recarga. Cadastre-se para ganhar $2 de crédito grátis e confira os preços em tempo real antes de rotear o tráfego de produção.