Chọn hướng dẫn định tuyến hiện tại của Trung Quốc LLM: Hiện tại ChinaAPI

Việc sử dụng mô hình mặc định sai làm mô hình chủ đạo cho mọi yêu cầu. Hầu hết các lỗi trong quá trình sản xuất xảy ra sớm hơn: một mô hình chỉ chứa văn bản lại nhận được hình ảnh, một mô hình 256K nhận được kho lưu trữ không giới hạn, một lần chạy thử ban đầu rẻ tiền âm thầm dẫn đến năm lần thử lại, hoặc một vòng lặp công cụ không có giới hạn ngân sách và phê duyệt.

Ảnh chụp nhanh ngày 2026-07-20, đã đối chiếu với gateway, gồm 25 mô hình tính phí theo token hiện hành được gắn thẻ Reasoning. Chừng đó lựa chọn là đủ để một bảng xếp hạng chung chung trở nên kém hữu ích hơn một quy tắc định tuyến. Hướng dẫn này thu hẹp quyết định đầu tiên về ràng buộc có thể khiến một tác vụ thất bại: phương thức, cửa sổ ngữ cảnh, việc sử dụng công cụ, độ trễ, hoặc chi phí của một câu trả lời được chấp nhận.

Đây là hướng dẫn lựa chọn danh mục hiện tại, không phải là tiêu chuẩn chất lượng công khai. Các mục model IDs bên dưới hiện đang có trong danh mục ChinaAPI; nhóm tài khoản, số dư, giới hạn tỷ lệ, tình trạng hoạt động của máy chủ đầu vào và chính tác vụ vẫn ảnh hưởng đến việc yêu cầu có thành công hay không.

Câu trả lời ngắn gọn

• Hãy bắt đầu các tác vụ RAG ưu tiên văn bản, trích xuất, phân loại và tạo ứng viên mã chi phí thấp với deepseek-v4-flash. Trong danh mục hiện tại, mô hình này có cửa sổ ngữ cảnh 1M và hỗ trợ công cụ, với giá $0.3 đầu vào / $1.2 đầu ra cho mỗi triệu token. Đừng gửi đầu vào hình ảnh hoặc video tới một tuyến chỉ xử lý văn bản.
• Dùng qwen3.7-plus làm mặc định thực tế cho tác nhân đa năng khi công việc cần tệp hoặc hình ảnh cùng với cửa sổ 1M. Đây là lựa chọn phù hợp để thử đầu tiên khi việc dùng công cụ và ngữ cảnh hình ảnh quan trọng hơn việc tối thiểu hóa từng token.
• Với công việc dài, hãy chọn theo loại thao tác trước rồi mới đến thương hiệu. LongCat-2.0 là tuyến 1M chỉ xử lý văn bản, có hỗ trợ công cụ; kimi-k2.7-code là ứng viên chuyên về mã với ngữ cảnh 256K; MiniMax-M3 là tuyến 1M trong ảnh chụp nhanh này có hỗ trợ tệp và thị giác. Chúng giải quyết những ràng buộc khác nhau.
• Hãy dành riêng qwen3.8-max, glm-5.2, hoặc kimi-k3 cho các lượt xử lý giá trị cao đã được chọn lọc và cho việc đánh giá độc lập. Một lượt xử lý cao cấp hữu ích nhất khi đã có ứng viên, chứ không phải làm lượt gọi đầu tiên trong một workflow hàng loạt.
• Dùng glm-5v-turbo khi đầu vào có video. Trong danh mục hiện tại, đây là tuyến suy luận được gắn thẻ rõ ràng cho hình ảnh, video, tệp và công cụ; một tuyến chỉ xử lý văn bản hoặc chỉ xử lý hình ảnh không thể khôi phục thông tin mà nó chưa từng nhận được.

Lập trường này là có chủ ý: Không nên định tuyến dựa trên nhãn hiệu sản phẩm chủ lực của nhà cung cấp. Hãy định tuyến dựa trên chế độ lỗi mà bạn không thể chấp nhận, sau đó nhận được mức độ leo thang ưu tiên với dữ liệu đầu ra được chấp nhận.

Những gì danh mục hiện tại cho phép

Bảng này có chủ đích là một bản đồ định tuyến chứ không phải một bảng xếp hạng. deepseek-v4-flash có thể là lựa chọn tốt hơn một mô hình chủ lực cho lượt gọi đầu tiên khi đầu vào là văn bản và mục tiêu là tạo ứng viên với chi phí thấp. Nó là lựa chọn tồi cho lượt gọi đầu tiên khi công việc phụ thuộc vào hình ảnh, video hoặc tệp mà mô hình không thể đọc được.

Giá cả là yếu tố đầu vào để định tuyến, chứ không phải là yếu tố quyết định.

Giá hiển thị hiện tại cho thấy vì sao chiều của token (đầu vào hay đầu ra) lại quan trọng. deepseek-v4-flash có giá $0.3 đầu vào / $1.2 đầu ra cho mỗi triệu token. qwen3.7-plus là $1.2 / $4.8; LongCat-2.0 là $0.3 / $1.2; còn qwen3.8-max là $2 / $6.

Những con số đó là tỷ lệ hiển thị hiện tại đã được cổng thông tin đối chiếu, chứ không phải là dự đoán về tổng chi phí dự án hay điểm chất lượng. Các yếu tố như mã thông báo suy nghĩ, lỗi bộ nhớ cache, lệnh gọi công cụ, số lần thử lại, sửa chữa thủ công và xác suất chấp nhận câu trả lời đều ảnh hưởng đến kết quả. Đơn vị hữu ích là:

usable-answer cost =
  (input tokens + output/thinking tokens + tool costs + retries + review time)
  / accepted answers

Giá đầu vào thấp sẽ mất lợi thế nếu mô hình không xử lý được phương thức của dữ liệu nguồn, hoặc nếu kết quả đầu tiên của nó liên tục không vượt qua các bước kiểm tra về lược đồ, trích dẫn, công cụ hoặc đánh giá mã. Ngược lại, một mô hình có giá đầu ra cao có thể phù hợp cho một lượt đánh giá cuối cùng được chọn, nhưng lại lãng phí nếu dùng cho mọi ứng viên trong một lô. Hãy kiểm tra giá trực tiếp trước khi đưa một tuyến vào production.

Một phương pháp định tuyến hai giai đoạn có thể lặp lại

Hãy tạo thẻ nhiệm vụ trước khi chọn mô hình. Mục đích là để ngăn chặn việc một lời nhắc vô tình trở thành một vòng lặp tác nhân tốn kém và không giới hạn.

{
  "task_id": "contract-qa-01",
  "task_type": "document_question_answering",
  "source_modalities": ["pdf", "image"],
  "context_band": "1m",
  "needs_tools": true,
  "needs_video_input": false,
  "max_tool_rounds": 6,
  "max_attempts": 2,
  "acceptance_checks": ["answer cites supplied pages", "JSON validates", "no unsupported claim"],
  "candidate_model": "qwen3.7-plus",
  "escalation_model": "glm-5.2",
  "human_approval_required": true
}

Sau đó, định tuyến từng tác vụ theo năm bước:

1. Hãy chọn tuyến đường có chi phí thấp nhất mà vẫn có thể đọc được dữ liệu đầu vào và đáp ứng các ràng buộc về ngữ cảnh/công cụ.
2. Chạy một lượt chọn ứng viên giới hạn với các kiểm tra chấp nhận rõ ràng, giới hạn chi phí và số lần thử lại.
3. Chỉ chuyển những trường hợp thất bại hoặc có giá trị cao lên tuyến xử lý cao cấp hoặc chuyên khoa.
4. Đối với các kết quả quan trọng, cần thực hiện một bước xem xét độc lập và yêu cầu sự chấp thuận của con người trước khi thực hiện các hành động bên ngoài, thanh toán, triển khai hoặc xóa dữ liệu.
5. Lưu trữ kết quả được chấp nhận/bị từ chối, số token đã tính phí, số vòng công cụ, số lần thử lại và số phút sửa chữa. Chỉ đưa một tuyến đường lên làm mặc định sau khi nó thắng trong việc xử lý dữ liệu đầu ra được chấp nhận.

Bản tóm tắt định tuyến nội bộ xác định một tập ứng viên gồm 60 tác vụ bao quát RAG văn bản, trích xuất có cấu trúc, lập trình, sử dụng công cụ, tài liệu dài, hiểu hình ảnh hoặc video, và đánh giá cuối cùng. Đó là một kế hoạch kiểm thử, không phải benchmark công khai. Chúng tôi chưa công bố tỷ lệ hoàn thành qua các lần chạy lặp lại trên ChinaAPI, phân bố độ trễ, tỷ lệ dùng công cụ thành công hay kết quả lập trình ở cấp kho mã cho cả 25 mô hình.

Những lỗi định tuyến thường gặp

Những điều mà hướng dẫn này không khẳng định

Bài viết này không công bố bảng xếp hạng chất lượng chung, bảng xếp hạng độ trễ, đảm bảo tính khả dụng của nhà cung cấp hoặc kết quả chính sách an toàn. Cấu hình mô hình và giá cổng có thể thay đổi; trang giá trực tiếp là nguồn thông tin chính xác. Chúng tôi cũng chưa có một tiêu chuẩn công khai nào chứng minh mô hình nào tốt hơn về mã hóa, suy luận, sử dụng công cụ hoặc khả năng hiểu đa phương thức cho mọi tác vụ.

Hãy sử dụng các dữ liệu hiện có trong danh mục để chọn một lộ trình đầu tiên khả thi. Sau đó, đo lường các kết quả đầu ra được chấp nhận, các loại lỗi, số lần thử lại và tổng chi phí. Bản cập nhật hữu ích tiếp theo là một báo cáo đánh giá hiệu suất với một tập hợp nhiệm vụ cố định, các lần chạy lặp lại, phương pháp luận thô và các kết luận được xác định rõ ràng — chứ không phải là một bảng xếp hạng ồn ào.