Trang này được dịch từ tài liệu tiếng Anh. Lệnh, định danh và ví dụ giữ nguyên. Runtime 7.24.4 · SDK 2.6.7. Bản tiếng Anh

Nhà cung cấp và mô hình được hỗ trợ

Trạng thái: Đang hoạt động Phạm vi: trạng thái hiện tại Xem xét lần cuối: 2026-09-19 Chủ sở hữu: ax-code runtime

Trang này liệt kê các preset nhà cung cấp mà AX Code lộ trong các luồng thiết lập mặc định. Nguồn sự thật là danh sách cho phép nhà cung cấp của runtime trong packages/ax-code/src/provider/default-setup-providers.ts, ảnh chụp mô hình đóng gói trong packages/ax-code/src/provider/models-snapshot.json, preset runtime cục bộ trong packages/ax-code/src/provider/local-runtime.ts, và các định nghĩa AX Engine trong packages/ax-code/src/provider/ax-engine/constants.ts.

Dùng /connect trong giao diện terminal hoặc ax-code providers login <provider-id> cho thiết lập tương tác. Môi trường không giao diện và CI cũng có thể cung cấp các biến môi trường đã liệt kê.

Quản lý nhà cung cấp đã kết nối

Khung phiên giữ một thanh trên cùng với mã phiên (nhấp để sao chép), tiêu đề và trạng thái trực tiếp, theo sau là mục Nhà cung cấp hiện số đã kết nối; nhấp mục đó hoặc quản lý để mở trình quản lý nhà cung cấp, cũng có sẵn dưới dạng lệnh /providers. Từ đó bạn có thể chọn mô hình, tắt, hoặc ngắt từng nhà cung cấp, hoặc nhảy tới luồng /connect đầy đủ.

• Thay khóa: chọn nhà cung cấp trong /connect và chọn Thay khóa, hoặc chạy lại ax-code providers login <provider-id>.
• Tắt tạm thời: chọn Tắt trong /providers hoặc /connect, hoặc chạy ax-code providers disable <provider-id>. Việc này thêm nhà cung cấp vào disabled_providers trong cấu hình toàn cục và giữ thông tin xác thực đã lưu. Nhà cung cấp đã tắt vẫn hiện trong /providers và dưới Đã tắt trong /connect, và có thể bật lại bằng Bật hoặc ax-code providers enable <provider-id>.
• Ngắt vĩnh viễn: chọn Ngắt trong /providers hoặc /connect, hoặc chạy ax-code providers logout <provider-id> — việc này xóa thông tin xác thực đã lưu khỏi auth.json.

Danh mục mô hình được lưu trữ được đóng gói với mỗi bản phát hành AX Code và được lọc theo khả năng tác nhân lập trình dùng được. Chạy ax-code models <provider-id> để có các mã mô hình có thẩm quyền trong bản phát hành bạn đã cài; kho đăng ký thô và các danh sách web đã sao chép có thể chứa mô hình mà AX Code ẩn vì chúng thiếu đầu ra văn bản hoặc gọi công cụ. Một preset nhà cung cấp không ngụ ý mọi mô hình đều miễn phí hoặc có trên mọi tài khoản.

Lựa chọn runtime

Chọn mô hình không cần phiên bản

Cả TUI và ax-code run đều nhận các tên họ --model không phân biệt hoa thường này:

Ví dụ, ax-code --model glm mở TUI với GLM Flash, và ax-code run --model qwen -- "Review this change" yêu cầu Qwen Flash. Đặt lời nhắc sau -- (hoặc truyền --prompt / --prompt-file); --file đính kèm tệp và không phải tệp lời nhắc. ax-code models liệt kê các mã provider/model dùng được. Tên họ phân giải qua nhà cung cấp gốc hoặc một cổng đã kết nối đang phục vụ cùng mô hình. Bạn cũng có thể nêu nhà cung cấp: --model my-gateway/glm. Dùng một mã đầy đủ như my-gateway/glm-5.3 để yêu cầu một phiên bản hoặc tầng cụ thể.

Bỏ --model sẽ giữ các lựa chọn mô hình đã cấu hình, của tác nhân, của phiên và gần đây. Khi không có lựa chọn dùng được, thứ tự dự phòng chung bắt đầu bằng DeepSeek Flash, GLM Flash, rồi Qwen Flash trên các nhà cung cấp đã kết nối. Thiết lập nhà cung cấp có mặc định riêng: Alibaba Coding Plan dùng qwen3-coder-plus; Alibaba Token Plan dùng qwen3.8-flash.

Kết nối một runtime

Các lựa chọn trong /connect được sắp Nhà cung cấp API đám mây, Nhà cung cấp CLI, runtime AX-Engine, runtime LLM cục bộ, Đám mây GPU riêng và AX Trust. Runtime AX-Engine mở chọn mô hình cục bộ và quản lý runtime trực tiếp. Runtime LLM cục bộ liệt kê các lựa chọn này theo thứ tự:

Preset MTPLX và oMLX có trong bản checkout nguồn; tệp nhị phân đóng gói v7.19.3 không gồm chúng. Xem Thiết lập MTPLX và oMLX để biết cấu hình khả năng công cụ, xác thực tùy chọn và lưu ý cổng mặc định dùng chung.

Hãy khởi động máy chủ cục bộ của bạn, chọn mục menu của nó, rồi xác nhận hoặc sửa điểm cuối. AX Code thêm /v1 nếu bị bỏ. Khác lưu một điểm cuối có thể cấu hình dưới local-llm; chọn lại để đổi điểm cuối. LMStudio và Khác dùng luồng thiết lập cục bộ hiện có mà không hỏi token API. LM Studio ghi điểm cuối danh sách mô hình của nó.

Các lựa chọn thiết lập tôn trọng enabled_providers và disabled_providers. Chỉ mở bộ chọn không kích hoạt hay dò các máy chủ cục bộ này. Các mô hình cục bộ bên ngoài đã khám phá giữ mặc định khả năng thận trọng; mô hình phải hỗ trợ gọi công cụ mới chọn được cho quy trình tác nhân lập trình.

Nhà cung cấp API đám mây

Các nhà cung cấp này gọi API được lưu trữ hoặc điểm cuối kế hoạch tài khoản được lưu trữ.

MiniMax đã đổi tên Coding Plan thành Token Plan. Các mã nhà cung cấp vẫn là minimax-coding-plan / minimax-cn-coding-plan để khớp models.dev và OpenCode. Hãy dùng khóa Token Plan (sk-cp-…) từ platform.minimax.io (quốc tế) hoặc platform.minimaxi.com (Trung Quốc).

huggingface là bộ định tuyến Serverless Inference Providers được lưu trữ (https://router.huggingface.co/v1). Nó không liên quan tới bộ nhớ đệm ảnh chụp Hugging Face cục bộ mà AX Engine dùng để lưu các mô hình cục bộ đã tải — kết nối huggingface không bao giờ khởi động hay đòi hỏi engine cục bộ.

Để chạy lần đầu không mất phí, xem Bắt đầu nhanh API bậc miễn phí. Nó phân biệt ưu đãi miễn phí của một nhà cung cấp với tương thích của AX Code và giải thích vì sao một danh mục API miễn phí bên ngoài tự nó không phải ma trận hỗ trợ.

Grok chỉ được hỗ trợ qua nhà cung cấp grok-build-cli liệt kê bên dưới. AX Code không còn gồm nhà cung cấp API đám mây trực tiếp xai; thông tin xác thực API Grok hiện có không tạo một kết nối.

github-copilot là cầu tài khoản GitHub Copilot. Nó không phải API github-models riêng mà một số thư mục API miễn phí liệt kê.

Cổng tương thích OpenAI và tương thích Anthropic cũng được hỗ trợ qua cấu hình nhà cung cấp tùy chỉnh. Xem Nhà cung cấp tùy chỉnh và cổng.

Đám mây GPU riêng

Các nhà cung cấp này xuất hiện trong /connect dưới Đám mây GPU riêng, sau runtime LLM cục bộ.

Chọn Nhà cung cấp tùy chỉnh để kết nối điểm cuối GPU tương thích OpenAI của riêng bạn. Nhập URL và khóa API của nó; AX Code khám phá mô hình từ /v1/models và lưu khóa trong kho xác thực đã mã hóa. Kết nối đã lưu ở lại trong Đám mây GPU riêng. Chọn lại để chọn mô hình, thay điểm cuối, hoặc ngắt. Mục này lưu một điểm cuối có thể cấu hình dưới custom-private-gpu.

Danh mục (khóa API)

Các danh mục GPU được lưu trữ kiểu OpenCode. Mô hình đến từ ảnh chụp models.dev đã đóng gói. Kết nối bằng khóa API.

Bộ định tuyến Hugging Face được lưu trữ (huggingface / HF_TOKEN) ở lại trong Nhà cung cấp API đám mây. Hugging Face Inference Endpoints chuyên dụng được liệt kê bên dưới.

Chuyên dụng (URL + token)

Các điểm cuối GPU chuyên dụng kiểu PAI. Dán URL tương thích OpenAI và token; AX Code gọi GET …/models và dùng các mã mô hình đã triển khai. Đây không phải nhà cung cấp Alibaba Coding Plan / Token Plan (DashScope).

sagemaker dành cho một URL tương thích OpenAI đứng trước SageMaker (vLLM / TGI / API Gateway). Nó không ký AWS SigV4.

AX Trust

AX Trust là hạng mục cuối trong /connect, sau Đám mây GPU riêng. Chọn Kết nối AX Trust, nhập URL gốc của cổng gồm /v1, và cung cấp khóa API máy khách. AX Code khám phá các mô hình của cổng và lưu khóa trong kho xác thực đã mã hóa. Các kết nối đã lưu có chọn mô hình, cập nhật điểm cuối, làm mới mô hình và xóa.

Kết nối lại một URL hiện có sẽ giữ mã nhà cung cấp, mô hình và khóa đã lưu khi token để trống. Nhà cung cấp vẫn ở trong AX Trust kể cả với tên tùy chỉnh. Các mã kế thừa ax-trust và ax-trust-* cũng xuất hiện trong hạng mục này. AX Trust tiếp tục sở hữu chính sách cổng, phê duyệt và kiểm toán. AX Code gửi một phần đầu ái lực phiên trên các kết nối này theo mặc định.

Nhà cung cấp CLI

Nhà cung cấp CLI tái dùng CLI của nhà cung cấp cục bộ và đăng nhập/phiên của nó thay vì lưu khóa API được lưu trữ trong AX Code.

Hãy chạy đăng nhập CLI của nhà cung cấp trước khi cần, rồi chạy ax-code providers login <provider-id>. AX Code dò lệnh CLI và lưu một thông tin xác thực đánh dấu cục bộ sau khi dò thành công.

Với Muse Code, hãy cài tệp nhị phân cục bộ muse, chạy muse login (hoặc đặt META_API_KEY), rồi ax-code providers login muse-cli. AX Code tái dùng phiên CLI Muse (~/.config/muse) thay vì lưu khóa API Meta được lưu trữ. Nhà cung cấp API được lưu trữ meta vẫn là một kết nối riêng.

MiniMax Token Plan được lưu trữ vẫn có dưới dạng minimax-coding-plan / minimax-cn-coding-plan. Không có nhà cung cấp MiniMax Code CLI hay Kimi Code CLI được đóng gói.

Nhà cung cấp cục bộ AX Engine

ax-engine là nhà cung cấp suy luận cục bộ tích hợp. Nó chỉ có trên các máy Mac Apple Silicon đủ điều kiện và chỉ đưa các gói phát triển AutomatosX Tiel Coder và Cyber-Tiel Coder 35B A3B MXFP4 MTP. Khả năng gốc được kiểm tra khi mô hình khởi động.

Qwen3.8 27B, Ornith, Qwen3-Coder-Next và mọi kho khác bị loại khỏi chọn được quản lý. Hồ sơ lịch sử vẫn đọc được cho trạng thái và dọn dẹp.

Mô hình cục bộ mặc định là tiel-coder-35b-axq-mxfp4. Xem Chọn mô hình AX Engine để biết đúng các kho đã chọn, hướng dẫn bộ nhớ và đĩa.

Với giao diện gắn loopback được cấu hình riêng hiện có, /v1/models là nguồn có thẩm quyền: AX Code khám phá các mã mô hình đang sống, giới hạn ngữ cảnh/đầu ra, phương thức và hỗ trợ gọi công cụ có cấu trúc. Một mô hình không quảng bá gọi công cụ có cấu trúc sẽ không được dùng cho yêu cầu tác nhân lập trình.

AX Engine dùng hồ sơ công cụ gọn core theo mặc định (bash, khám phá/đọc/sửa/ghi tệp, và kỹ năng). Chỉ đặt provider.ax-engine.options.toolProfile thành full cho một triển khai tùy chỉnh có đủ ngữ cảnh cho toàn bộ kho đăng ký công cụ.

Cài engine

Suy luận cục bộ cần AX Engine 7.5.7 trở lên. Trình cài Mac Apple Silicon đã gồm một sidecar AX Engine tự chứa (engine/<version>/ cạnh runtime CLI), nên một máy Mac sạch không cần Homebrew.

AX Code sau đó phân giải tệp nhị phân theo thứ tự này:

1. provider.ax-engine.options.binaryPath trong ax-code.json (cần phiên bản đã xác minh ít nhất 7.5.7)
2. biến môi trường AX_ENGINE_BIN (cần phiên bản đã xác minh ít nhất 7.5.7)
3. ax-engine trên PATH của bạn (cần phiên bản đã xác minh ít nhất 7.5.7)
4. một bản cài lớp phủ do AX Code quản lý (ax-code providers ax-engine install; cũng cần ít nhất 7.5.7)
5. sidecar được đóng gói trong runtime Mac hiện tại

Nó kiểm tra --version trước và lùi về install.version từ ax-engine doctor --json. Mã thoát của Doctor báo mức sẵn sàng máy chủ (chuỗi công cụ Metal, tệp MLX), nên một lần thoát khác không vẫn được tính khi JSON đó chứa một phiên bản. AX Code sở hữu việc khởi động máy chủ và thường khởi chạy ax-engine serve trên 127.0.0.1:31418. Công thức Homebrew tùy chọn vẫn là lựa chọn thay thế cho người dùng muốn engine do brew sở hữu; nó không bắt buộc.

Các lần khởi chạy Tiel được quản lý dùng cửa sổ danh mục (65,536 token ngữ cảnh và 8,192 token đầu ra), lớn hơn mặc định tích hợp 16,384 token của ax-engine serve để lời nhắc tác nhân vừa. Hãy thu một trong hai ngân sách bằng provider.ax-engine.options.contextTokens và provider.ax-engine.options.maxOutputTokens (outputTokens là cùng núm đầu ra). Tên môi trường là AX_ENGINE_CONTEXT_TOKENS và AX_ENGINE_MAX_OUTPUT_TOKENS (AX_ENGINE_OUTPUT_TOKENS là bí danh). Một ghi đè chỉ có thể thu hẹp trần danh mục: giá trị lớn hơn hoặc không hợp lệ được báo và bị bỏ, và một cửa sổ Tiel hoặc Qwen3.8 không phải bội số của 1,024 bị kéo xuống để các khối bộ nhớ đệm tiền tố giữ 1,024 token. Cùng các số đó là những gì máy chủ đang chạy và giới hạn mô hình dùng. Một thẻ /v1/models đang sống có thể thu cửa sổ đó thêm, và không thể nâng nó. Tùy chọn đã cấu hình thắng, và AX Code cảnh báo khi một giá trị môi trường bị bỏ. Cùng cảnh báo được phát khi binaryPath bỏ AX_ENGINE_BIN, hoặc khi connectionMode / baseURL bỏ AX_ENGINE_HOST. Một cửa sổ nhỏ hơn có thể quá nhỏ cho lời nhắc tác nhân đầy đủ; khi đó AX Code từ chối mô hình thay vì gửi một lời nhắc mà máy chủ không giữ được.

Tiel và Cyber-Tiel quảng bá gọi công cụ có cấu trúc. Một thẻ /v1/models đang sống vẫn ghi đè quảng bá đó khi máy chủ đã chạy. mtpPolicy: disabled tắt MTP kể cả khi không đọc được phiên bản tệp nhị phân; auto và required vẫn cần AX Engine 7.4.0 trở lên.

Một bản cài PATH hoặc lớp phủ thiếu libmlx.dylib / mlx.metallib bị từ chối. Các kho đóng gói và lớp phủ là tải macOS 7.5.7 tự chứa.

Cài engine không tải một mô hình. Hãy chọn và tải một mô hình sau đó từ trang Mô hình của Desktop hoặc bằng ax-code providers ax-engine prepare. Một ảnh chụp nền tương thích đầy đủ đã có trong bộ nhớ đệm Hugging Face được chấp nhận cho giải mã trực tiếp; prepare --download dùng gói MTP ưu tiên của danh mục khi có.

Dùng /connect -> runtime AX-Engine -> Chọn một mô hình. AX Code cấu hình và khởi động runtime cục bộ tự động khi mô hình đã chọn được cần; không cần URL hay khóa API. Xem trạng thái, Dừng runtime cục bộ và Tắt quản lý runtime cục bộ. Chọn một mô hình cũng thay các thiết lập gắn thủ công kế thừa bằng thiết lập cục bộ được quản lý.

Engine chỉ phát hành cho macOS Apple Silicon. Trên các máy chủ khác, hãy dùng nhà cung cấp được lưu trữ hoặc cổng nhà cung cấp tương thích OpenAI; máy chủ AX Code chỉ cục bộ.