本頁譯自英文文件。指令、識別名稱與範例保持原樣。執行環境 7.24.5 · SDK 2.6.9。 英文原文
Tiel/Cyber-Tiel:AX Engine 與 MTPLX(2026 年 9 月 20 日)
狀態:現行 範圍:AX Engine 四機原生 API 活動的公開摘要 上次審閱:2026-09-21 負責人:ax-code 執行環境
AX Code 是程式開發代理程式的管控層。AX Engine 是它隨附的 Apple Silicon 推理執行環境(已簽章的 7.5.7 sidecar,ax-engine serve)。這一頁記錄目前配對的 Tiel 同儕數字,因此 AX Code 的 README 不會繼續把 9 月 19 日的 M3 Max 快照當成仍然有效的排名。
標準表格、樣本散布、TTFT、記憶體與重現方式都在 AX Engine:
不要把這一頁當成那些成品的替代。
測量了什麼
- 套組:
AutomatosX/AX-Tiel-Coder-35B-A3B-MLX-AXQ-MXFP4-MTP(AX Code 的受管理預設)與AutomatosX/AX-Cyber-Tiel-Coder-35B-A3B-MLX-AXQ-MXFP4-MTP(替代)。 - 同儕:MTPLX 2.11.3 持續執行,相同的模型檔、相同的提示 token 陣列。
- 主要指標:包含 TTFT 的完成 token/秒(從原生 API 進入到最後一次回呼)。
- decode 的 token/秒不含第一次回呼。它不是主要指標,也不是 AX Code 的工作階段速度。
- 每個儲存格六個測量樣本、冷的 KV、MTP 深度 3、完整常駐的權重。
- 不是預設的
ax-engine serve,不是 AX Code 的程式開發工作階段,也不是品質宣稱。
標題儲存格(M5 Max 128 GiB)
| 套組 | 工作負載 | 完成(AX 對 MTPLX) | decode(AX 對 MTPLX) |
|---|---|---|---|
| Tiel(預設) | python-lru | 194.88 對 177.44 | 217.85 對 198.40 |
| Cyber-Tiel(替代) | python-lru | 219.43 對 194.15 | 249.01 對 219.84 |
194.88 是受管理預設套組的公開數字。249.01 是這次活動中最快的 decode 儲存格;它是 Cyber-Tiel,不是預設,而且該套組的受管理讀取工作探測仍未解決。
在 Mac mini M4 Pro 64 GiB 上,Tiel 的 python-lru 完成速度是 90.46,MTPLX 是 92.23。AX Code 建議用 48 GB 或以上的 M4 Pro 來跑 35B 套組;M5 Max 128 GiB 是這次活動的主機,不是最低需求。AX Code 本身在 M2 上從 8 GB 仍可執行,搭配雲端或較輕的本機模型。
不要和 Qwen 3.8 27B 混在一起
AX Engine 第一次執行的套組是稠密的 Qwen 3.8 27B AXQ 6 位元 MTP。該套組每個 token 串流 20.84 GB,在直接 AR 中已經到達 DRAM 上限。產品路徑上的 MTP,在 Mac mini M4 Pro 64 GB 的 decode 是 31.05 tok/s(mlx-lm 12.78 的 2.43 倍),在 M5 Max 128 GB 是 decode 76.90 tok/s、prefill 795.3 tok/s(mlx-lm 27.90 的 2.76 倍)。它不在 AX Code 的受管理目錄裡。不要把 76.90 和 Tiel 的 194.88 放在一起引用,好像它們是同一種指標或同一個模型。請見 AX Engine 的 Qwen 27B 效能。
9 月 19 日 M3 Max 的歷史快照
Tiel 的 prefill/decode 基準 仍留在磁碟上,作為同一主機的原生階段快照(M3 Max 128 GiB,引擎組建標為 7.4.0,三次的中位數,AX 的 decode 為 47 到 58,MTPLX 為 92 到 96)。那個排名不能取代 9 月 20 日的四機活動。不要把兩張表混在一起。
工作階段速度
短提示的原生 decode,不能為上下文有數萬個 token、帶有工具,或使用 HTTP sidecar 傳輸的程式開發工作階段建立下限。請見 解讀本機回應速度 與 AX Code 與 OpenCode 用戶端再測(Qwen 3.8,是不同的模型)。