Интеграция LiteLLM

Используйте LiteLLM с китайскими моделями ИИ через ChinaAPI.

Добавьте ChinaAPI в качестве OpenAI-compatible бэкенда в LiteLLM прокси или Python SDK , затем перенаправляйте приложения на китайские модели по официальным ценам с помощью одного ключа.

Начните бесплатно — кредит в $2 Цены по моделям, работающим в реальном времени

Предварительные требования

Перед редактированием конфигурации.

Установлена программа LiteLLM.

Используйте либо прокси-сервер LiteLLM, либо SDK на Python.

Конечная точка ChinaAPI

Base URL есть https://api.chinaapi.ai/v1. API keys создаются в разделе Панель управления -> Консоль -> Токены.

Настройка прокси

Использовать `openai /<model>` записи в `config.yaml`.

model_list:
  - model_name: deepseek-fast
    litellm_params:
      model: openai/deepseek-v4-flash
      api_base: https://api.chinaapi.ai/v1
      api_key: os.environ/CHINAAPI_API_KEY

  - model_name: kimi-code
    litellm_params:
      model: openai/kimi-k2.7-code
      api_base: https://api.chinaapi.ai/v1
      api_key: os.environ/CHINAAPI_API_KEY

  - model_name: qwen-max
    litellm_params:
      model: openai/qwen3.7-max
      api_base: https://api.chinaapi.ai/v1
      api_key: os.environ/CHINAAPI_API_KEY

export CHINAAPI_API_KEY="sk-..."
litellm --config config.yaml --port 4000

Python SDK

Вызовите ChinaAPI напрямую из LiteLLM.

import os
from litellm import completion

response = completion(
    model="openai/deepseek-v4-flash",
    api_base="https://api.chinaapi.ai/v1",
    api_key=os.environ["CHINAAPI_API_KEY"],
    messages=[{"role": "user", "content": "Say LiteLLM is connected to ChinaAPI."}],
    stream=True,
)

for chunk in response:
    print(chunk, end="")

Рекомендуемые модели

Хорошие маршруты LiteLLM.

Для получения подробной информации о текущей модели и подтверждения тарифов, ознакомьтесь с информацией по ссылке. DeepSeek-V4 и Kimi K2.7 перед установлением производственного маршрута.

`deepseek-v4-flash`

Быстрый резервный вариант для чата, помощи в программировании и циклов взаимодействия с агентами.

`kimi-k2.7-code`

Хороший подход к программированию для задач на уровне репозитория и длительных сеансов работы.

`qwen3.7-max`

Это сложный с точки зрения рассуждений подход, когда качество важнее задержки.

`glm-5.2`

Маршрут с длинным контекстом для больших документов и кодовых баз.

`MiniMax-M3`

Мультимодальное кодирование и модель с длинным контекстом для альтернативной маршрутизации.

Поиск неисправностей

Типичные проблемы LiteLLM.

Мышление с использованием таких моделей, как qwen3.7-max Можно генерировать токены рассуждений перед окончательным выводом. Используйте потоковую передачу данных на клиентах, находящихся за LiteLLM , или увеличивайте тайм-ауты на стороне вышестоящего/клиентского сервера.

Модель не найдена: проверьте точное значение model ID на Цены в реальном временизатем обновить litellm_params .model. Сохраните openai / префикс для маршрутизации OpenAI-compatible .

401 : подтверждать CHINAAPI_API_KEY разрешается ск-... ключ и LiteLLM передает его в качестве поставщика API key .

Цены и регистрация

Используйте синхронизированную с шлюзом цену токенов за вашим шлюзом LiteLLM.

В зависимости от настроек, тарифы могут соответствовать официальным прейскурантам провайдеров в Китае. Зарегистрируйтесь и получите бесплатный кредит в размере $2 , затем проверьте актуальные цены перед перенаправлением трафика в рабочую среду.

Регистрация — скидка $2 Цены в режиме реального времени