取得 AX Code · 免費文件

本頁譯自英文文件。指令、識別名稱與範例保持原樣。執行環境 7.24.5 · SDK 2.6.9。 英文原文

Tiel MTP 設定檔比較

狀態:已測量的本機快照 上次審閱:2026-09-19 負責人:AX Code 維護者 範圍:原生 Tiel MTP 設定檔測量與受管 AX Code 接受

AX Code 現在為預設 Tiel Coder 套件選擇 auto 推測設定檔,同時維持 MTP 啟用為 required。Cyber-Tiel 保留 agentic:其 auto 候選在真實讀取工具探測中失敗,出現重複輸出以及後續的並行上限錯誤。這讓引擎可以使用模型專屬的草稿閘門。先前的通用 agentic 設定檔以 0.80 覆寫該閘門。原生比較在兩個已測量工作負載中都改善了 Tiel 解碼,較長輸入也改善了 Cyber-Tiel;Cyber-Tiel 的短輸入結果略為退步。較高的原生輸送量並未為該候選確立可用的工具行為。

這些是配備 128 GiB 的 Apple M3 Max 上的直接 AX Engine 原生階段測量,不是 AX Code 的工作輸送量。原始的 AX Engine 對上 MTPLX 報告仍是 9 月 19 日 M3 Max 的歷史基準。目前排名是9 月 20 日的四機行動。此次設定檔實驗沒有重跑 MTPLX,因此其較早的 92–96 tokens/s 結果不得當成同時比較。

確認結果

速率單位是 tokens/s,每一項是三次未快取、256 token 完成的中位數。排除模型載入與 64 token 暖機。主機上有其他桌面應用程式在執行;這是小型本機快照,不是受控的熱特性或耐久研究。

模型 輸入 token Agentic 預填 Auto 預填 Agentic 解碼 Auto 解碼 解碼變化
Tiel,短 458 795.40 830.19 47.60 54.69 +14.9%
Tiel,上下文 3,182 906.31 967.79 39.50 47.84 +21.1%
Cyber-Tiel,短 483 1,009.78 1,081.05 61.09 58.53 -4.2%
Cyber-Tiel,上下文 3,207 1,220.00 1,211.88 46.91 54.70 +16.6%

只有 Tiel 的 auto 設定檔被採用。Cyber-Tiel 的 auto 數字仍是實驗證據,不是其出貨預設。讀取工具失敗阻擋了晉升,即使較長輸入的階段速率有改善;這並未確立失敗只由該設定檔造成。儘管預填設定相同,預填仍有波動。絕對速率也與較早報告不同,因此沒有用那個歷史基準來計算這些增益。

全部 24 個確認請求都回報作用中的 MTP、正數的已接受草稿、零個直接退回步驟,以及零個重用的輸入 token。引擎回報其取樣精確路由代碼(ax_mtp_correctness_mode=2);該執行環境分類不是獨立的數值或品質認證。

已清理的輸入、階段計數器、全部確認與前導回執,以及受管與工具接受附於此報告。

單變數前導

每個情況一次初步試驗,在重複比較之前隔離閘門。不要把這些前導與確認試驗合併。

Tiel 組態 短解碼 上下文解碼 作用中的 MTP
agentic,預設環境 56.52 56.94 是
agentic、AX_MLX_MTP_DRAFT_MIN_CONFIDENCE=0 62.21 59.82 是
auto,預設環境 61.71 59.80 是

在上下文前導中,明確的零閘門與 auto 請求產生了相同的輸出 token 以及草稿與接受計數。auto 請求的回復計時器從 1.061 秒降到 0.055 秒,草稿計時器從 0.718 秒降到 0.130 秒。然而驗證週期從 78 增到 111,驗證評估仍約 2.26 秒。因此總解碼改善遠小於任一計時器的縮減。這些計數器描述不同的執行路徑;它們不是未來加速的獨立、可相加估計。

另外兩次隨機草稿前導,有與沒有 0.6 草稿溫度覆寫,都回報 未作用的 MTP、255 個直接退回步驟,以及沒有草稿。引擎的保護選擇了直接退回路由。它們的原始回執被保留,並明確排除在作用中 MTP 比較之外。AX Code 不採用這些覆寫,也不繞過該保護。

重現與範圍

使用與原始測量方法相同的引擎建置、釘選快照、提示 token、取樣參數與啟動指令,只把 --speculation-profile agentic 改成 --speculation-profile auto。確認請求沒有額外的 MTP 環境覆寫。以前綴快取停用,方式是 AX_MLX_PREFIX_CACHE_MAX_ENTRIES=0。原生解碼公式仍是 (output_tokens - 1) / native_decode_seconds;預填是未快取輸入 token 除以原生預填秒數。

引擎是 51137c71a6794964d52c32c95e275c0923ed8d0b 的最佳化原始碼建置,MLX 0.32.2,伺服器 SHA-256 為 1fbe7fc50ea16448f98350616273214c0475bffb3ef509fceb3f8849163e97f5。測試的 Homebrew 7.4.0 二進位檔早於所需的 Tiel 命名空間載入器修正,雖然此原始碼建置也回報 7.4.0。沒有替換任何已安裝的二進位檔或使用者設定。

確認順序是 Tiel/auto、Tiel/agentic、Cyber-Tiel/agentic、Cyber-Tiel/auto。每次啟動先做一次 64 token 暖機,然後三次短試驗與三次上下文試驗。一次只有一個推論後端;編譯與測試套件排除在計時試驗之外。排程器寬度維持 2,048,上下文 32,768,最大輸出預算 8,192,最大並行 1。真實受管 AX Code 仍使用既有的排程器寬度 8,192,因此階段表並未確立其完整用戶端輸送量。

預設變更只適用於精確的 AutomatosX Tiel Coder 儲存庫及其別名。Cyber-Tiel 保留先前的 agentic 設定檔。明確的啟動設定檔覆寫仍然優先。稠密 Qwen3.8 的實驗環境與前綴幾何仍然分開;兩者都不套用到 Tiel。歷史或無法辨識的模型保留先前的設定檔。雲端、CLI、私有 GPU 與 AX Trust 供應商行為不變。

受管與工具接受

分開的隔離原始碼執行演習預設 Tiel 啟用與明確的 Cyber-Tiel 啟用、即時的必要與作用中 MTP、AX Code 的 read 工具,以及受管關閉。Tiel 搭配 auto 完成了讀取並回傳正確標記,但加上了說明文字與程式碼區塊,而不是只回傳檔案內容。Cyber-Tiel 搭配 auto 重複其預定動作卻沒有完成讀取,觸發輸出迴圈防護,後續重試收到並行上限 429 回應,並在約 81 秒後以錯誤結束。保留的 agentic 對照重現了相同的重複輸出,並在約 84 秒後失敗。因此這次工作失敗並非只發生在 auto;保留舊設定檔並不宣稱能修好 Cyber-Tiel。兩次失敗都與另一份停用快取的診斷一起留在 JSON 回執中。這些檢查與輸送量計時分開,也不認證一般程式開發品質。

停用快取的 Cyber-Tiel 診斷使用 agentic,只加上 AX_MLX_PREFIX_CACHE_MAX_ENTRIES=0。它成功結束,但沒有呼叫 read,並錯誤宣稱非空的測試素材是空的。因此單靠行程成功並不滿足工作接受。此診斷沒有被採用為應變做法。

受管探測 完成讀取 正確標記 結果
Tiel,auto,一般快取 是 是 已採用;僅輸出的精確格式仍然失敗
Cyber-Tiel,agentic,一般快取 否 否 既有組態未通過工作接受
Cyber-Tiel,auto,一般快取 否 否 候選被拒絕
Cyber-Tiel,agentic,快取已停用 否 否 診斷失敗;沒有採用快取變更

全部四個受管伺服器在准許期間都回報必要且作用中的 MTP,並成功停止。新設定檔只針對此處顯示的有界 Tiel 接受取得資格。Cyber-Tiel 仍可選擇,但其受管讀取工作的可靠性尚未解決。先前直接伺服器的讀取成功並不確立與受管啟用等價;那些探測之間的排程器寬度、快取設定、先前請求與提示上下文都不同。

範圍變更後的驗證:11,390 個確定性測試通過,17 個略過;208 個 SDK 測試與 259 個指令稿測試通過(94 個指令稿測試略過)。產生的 SDK 成品包含兩個選定的模型別名,並且在第二次建置時位元組穩定。遞迴型別檢查與儲存庫結構檢查通過。原生階段稽核驗證全部 24 份確認回執,並保留合格與被拒絕的前導。