Integrasi LiteLLM

Gunakan LiteLLM dengan model AI Tiongkok melalui ChinaAPI.

Tambahkan ChinaAPI sebagai backend OpenAI-compatible di LiteLLM proxy atau Python SDK, lalu arahkan aplikasi ke model Tiongkok dengan satu kunci.

Mulai gratis — kredit $2 Harga model langsung

Prasyarat

Sebelum mengedit konfigurasi.

LiteLLM terpasang

Gunakan server proxy LiteLLM atau SDK Python.

Titik akhir ChinaAPI

Base URL adalah https://api.chinaapi.ai/v1. API keys dibuat di Dasbor -> Konsol -> Token.

Pengaturan proxy

Gunakan `openai/<model>` sebagai entri di `config.yaml`.

model_list:
  - model_name: deepseek-fast
    litellm_params:
      model: openai/deepseek-flash
      api_base: https://api.chinaapi.ai/v1
      api_key: os.environ/CHINAAPI_API_KEY

  - model_name: kimi-code
    litellm_params:
      model: openai/kimi-k2.7-code
      api_base: https://api.chinaapi.ai/v1
      api_key: os.environ/CHINAAPI_API_KEY

  - model_name: qwen-max
    litellm_params:
      model: openai/qwen3.7-max
      api_base: https://api.chinaapi.ai/v1
      api_key: os.environ/CHINAAPI_API_KEY

export CHINAAPI_API_KEY="sk-..."
litellm --config config.yaml --port 4000

SDK Python

Hubungi ChinaAPI langsung dari LiteLLM.

import os
from litellm import completion

response = completion(
    model="openai/deepseek-flash",
    api_base="https://api.chinaapi.ai/v1",
    api_key=os.environ["CHINAAPI_API_KEY"],
    messages=[{"role": "user", "content": "Say LiteLLM is connected to ChinaAPI."}],
    stream=True,
)

for chunk in response:
    print(chunk, end="")

Model yang direkomendasikan

Rute LiteLLM yang bagus.

Untuk detail model terkini dan bukti tarif, tinjau DeepSeek-V4 Flash dan Kimi K2.7 Code sebelum menetapkan rute produksi.

`deepseek-flash`

Rute cadangan cepat untuk obrolan, bantuan pengkodean, dan perulangan agen.

`kimi-k2.7-code`

Rute pengkodean yang baik untuk tugas tingkat repositori dan sesi yang lebih panjang.

`qwen3.7-max`

Rute yang mengutamakan penalaran ketika kualitas lebih penting daripada latensi.

`glm-5.2`

Rute konteks panjang untuk dokumen dan basis kode yang lebih besar.

`MiniMax-M3`

Pengkodean multimodal dan model konteks panjang untuk perutean alternatif.

Penyelesaian Masalah

Masalah umum LiteLLM.

Model berpikir seperti qwen3.7-max dapat menghasilkan token penalaran sebelum output akhir. Gunakan streaming pada klien di belakang LiteLLM atau naikkan batas waktu upstream/klien.

Model tidak ditemukan: periksa model ID yang tepat di halaman harga terkini, lalu perbarui litellm_params.model. Pertahankan awalan openai/ untuk perutean OpenAI-compatible.

401: pastikan CHINAAPI_API_KEY berisi kunci sk-... dan LiteLLM meneruskannya sebagai API key penyedia.

Harga dan pendaftaran

Gunakan penetapan harga token yang disinkronkan dengan gateway di belakang gateway LiteLLM Anda.

Harga Standard model mengikuti 100% daftar harga internasional penyedia; beberapa model memiliki harga Paid terpisah setelah isi saldo pertama. Daftar untuk mendapatkan kredit gratis $2, lalu periksa harga terkini sebelum mengarahkan lalu lintas produksi.

Daftar — kredit $2 Harga terkini