このページは英語版ドキュメントの翻訳です。コマンド、識別子、例はそのままです。ランタイム 7.24.5 · SDK 2.6.9。英語版

Tiel Coder のネイティブなプリフィルとデコードの測定

状態: 履歴上のローカルスナップショット最終確認: 2026-09-21 担当: AX Code メンテナー日付: 2026-09-19 範囲: AX Code が選んだ 2 つの Tiel パック、AX Engine 対 MTPLX、Apple M3 Max 128 GiB

順位付けとしては置き換え済み。 2026年9月20日の 4 台構成ネイティブ API キャンペーンが、現行の Tiel 対 MTPLX の比較です。既定パックの M5 Max 完了 194.88 tok/s と、Cyber-Tiel のピークデコード 249.01 tok/s を含みます。Tiel ピアの要約を参照してください。このページは、9 月 19 日の M3 Max フェーズスナップショット（エンジンは 7.4.0 と識別、3 回の中央値）として残してください。表を混ぜないでください。

これらの結果は、元の agentic プロファイルの基準を保持します。その後の Tiel MTP プロファイル比較は、AX Code が現在選ぶ auto プロファイルを測定し、ワークロードに依存するトレードオフを含みます。

新しい Tiel パックは、テストした両方のランタイムで MTP を有効にして実行しました。AX Engine のソースビルドは 4 ケースでデコード 47.36–58.53 トークン/秒に達し、MTPLX は 92.13–96.26 に達しました。プリフィルはおよそ 1,190–1,446 トークン/秒でした。これらは 128 GiB の Apple M3 Max 上のネイティブ推論フェーズ測定であり、AX Code や OpenCode の端から端までのコーディングスループットではありません。

ビルド要件: インストール済みの Homebrew AX Engine 7.4.0 は、Engine(MlxMtpRequiredButUnavailable) で Tiel を起動できませんでした。下記の AX Engine 結果は、コミット 51137c71a6794964d52c32c95e275c0923ed8d0b の最適化されたローカルビルドを使います。これは Tiel MTP 名前空間ローダーの修正を追加します。そのビルドは依然として自身を 7.4.0 と識別します。その結果は、既存の Homebrew バイナリや公開リリースでの対応を確立しません。MTP は必須のままで、MTP を無効にしたフォールバック実行は含まれません。

結果

各値は 3 試行の中央値です。すべての試行はちょうど 256 トークンを生成し、キャッシュされた入力トークンはゼロと報告しました。プリフィルとデコードはどちらも秒あたりトークンです。

モデル	入力トークン	AX Engine プリフィル	AX Engine デコード	MTPLX プリフィル	MTPLX デコード
Tiel Coder、短い	458	1,255.61	57.03	1,207.01	92.27
Tiel Coder、コンテキスト	3,182	1,424.24	55.25	1,279.48	96.26
Cyber-Tiel Coder、短い	483	1,226.86	58.53	1,189.60	95.09
Cyber-Tiel Coder、コンテキスト	3,207	1,446.19	47.36	1,427.62	92.13

デコードの差は、AX Code のエージェントループの前、一致した入力を持つ直接のランタイムリクエストに存在します。したがってこのローカル比較は、ランタイムレベルの差の位置を示します。単一のカーネルやポリシーを原因とは特定しません。これらの構成の間でプリフィルははるかに近いです。MTP を無効にした対照は実行されていないため、これは MTP の高速化の測定ではありません。

無害化された入力、24 試行すべての受領、フェーズカウンタ、モデルリビジョン、クライアント受け入れ結果がこの報告に付きます。

正確な成果物と環境

モデル	Hugging Face リポジトリ	リビジョン
Tiel Coder（AX Code の既定）	リポジトリ AutomatosX/AX-Tiel-Coder-35B-A3B-MLX-AXQ-MXFP4-MTP	固定値 `5ab39b24bfd7f65203be9b7823b1840486f58b6d`
Cyber-Tiel Coder	リポジトリ AutomatosX/AX-Cyber-Tiel-Coder-35B-A3B-MLX-AXQ-MXFP4-MTP	固定値 `fe05e871ec69ad9ae8eac01fd285555514ac7daf`

AX Code ソース: 205cb556b。選択は mlx と公開者の MXFP4 重みを使います。
ホスト: Apple M3 Max、メモリ 137,438,953,472 バイト。macOS 27.0、ビルド 26A428。
AX Engine: 51137c71a6794964d52c32c95e275c0923ed8d0b のリリースプロファイルビルド、MLX 0.32.2。サーバー SHA-256: 1fbe7fc50ea16448f98350616273214c0475bffb3ef509fceb3f8849163e97f5。
MTPLX: 2.11.3、MLX 0.32.2、Python 3.12 環境。
両方のランタイムは、各モデルの同じ共有 Hugging Face スナップショットを読みます。モデルのダウンロード、重みの読み込み、サーバー起動はフェーズタイミングから除外されます。

パックは開発用の再量子化です。これらのテストは、モデル品質、数値的同等、長いコンテキストの振る舞い、他のハードウェア、将来のリリースの性能を保証しません。異なるモデルを使い異なる境界を測った、履歴上の Qwen3.8 実クライアント行列に取って代わるものでもありません。

測定方法

プロンプトは一般的な TypeScript LRU キャッシュとテストを求め、その前に 8 個または 96 個の合成 TypeScript 関数があります。メッセージは JSON 受領に保存されます。各モデルの固定トークナイザーは、enable_thinking=false と add_generation_prompt=true で公式チャットテンプレートを描画します。結果の整数トークンは、変更されずに両方のバックエンドへ送られます。AX Engine の /tokenize 出力も、それらの ID と照合されました。Cyber-Tiel のテンプレートは識別テキストを追加し、追加の 25 トークンを説明します。バックエンドをまたぐ入力は、各モデル内で一致します。

リクエストは temperature 0.55、top-p 1、top-k 0、seed 0、256 トークン上限を使います。各バックエンドは、測定試行の前に明示的な 64 トークンのウォームアップを受けます。MTPLX は通常の起動とバックグラウンドのウォームアップも行います。ウォームアップは試行として数えません。実行順は MTPLX/Tiel、AX Engine/Tiel、MTPLX/Cyber-Tiel、AX Engine/Cyber-Tiel でした。一度にアクティブな推論バックエンドは 1 つだけで、測定試行の開始前にコンパイルは終わりました。この小さな固定順のサンプルは、耐久試験でも、対抗平衡の熱研究でもありません。

AX Engine はネイティブの /v1/generate を、input_tokens と max_output_tokens とともに使います。MTPLX はストリームされた /v1/completions を、整数配列の prompt とともに使い、そのあと /metrics です。これらは、2 つのサーバー間でのクライアントプロンプト組み立てとチャットテンプレート描画の差を避けます。上限付き出力はスループットのワークロードであり、完全なコード正しさのテストではありません。

測定	AX Engine	MTPLX
プリフィル所要時間	`ax_mlx_prefill_wall_us / 1e6`	`prompt_eval_time_s`
プリフィル速度	キャッシュされていない入力トークン / プリフィル所要時間	`prefill_compute_tok_s`、`new_prefill_tokens / prompt_eval_time_s` に照らして監査
デコード所要時間	`ax_mlx_decode_wall_us / 1e6`	`decode_elapsed_s`
デコード速度	`(output_tokens - 1) / decode duration`。最初の出力はプリフィルに属する	`decode_tok_s`、`completion_tokens / decode_elapsed_s` に照らして監査
キャッシュの証拠	`AX_MLX_PREFIX_CACHE_MAX_ENTRIES=0` でプレフィックスキャッシュを無効。再利用トークンはゼロ	SSD セッションキャッシュはオフ。すべての完了でキャッシュトークンはゼロ
MTP の証拠	必須ポリシー、アクティブなモデル起草者、正の受理トークン、報告された直接フォールバックステップはゼロ	`generation_mode=mtp`、深さ 3、正の起草と受理カウンタ

ネイティブデコードカウンタは、最初のトークンの境界がわずかに異なります。同一タイマーとして貼り替えず、実際の式とともに報告されます。どちらの速度も、出力を HTTP リクエスト全体の所要時間で割りません。MTPLX のネイティブ TTFT は JSON に保持されます。AX Engine の非ストリーミングプローブは転送 TTFT を測定しません。

ランタイム構成

AX Engine は一般的な agentic 推測プロファイル、32,768 トークンのコンテキスト、広報された出力予算 8,192 トークン、スケジューラ幅 2,048、同時リクエスト 1 を使いました。密な Qwen3.8 固有の AX Code 環境上書きは適用されませんでした。認められた MTP 深さは 3 でした。エンジンの通常の起草ゲートはアクティブなままでした。

等価な起動引数。SNAPSHOT は適切な固定スナップショットに、MODEL はその AX Code 別名に設定します。

AX_MLX_PREFIX_CACHE_MAX_ENTRIES=0 /path/to/fixed/ax-engine-server \
  --host 127.0.0.1 --port 18439 --model-id "$MODEL" \
  --mlx --mlx-model-artifacts-dir "$SNAPSHOT" \
  --mlx-mtp-policy required --speculation-profile agentic \
  --mlx-mtp-disable-ngram-stacking --max-concurrent-requests 1 \
  --max-batch-tokens 2048 --max-output-tokens 8192 \
  --block-size-tokens 16 --total-blocks 2048

mtplx serve --model "$SNAPSHOT" --model-id "$MODEL" \
  --host 127.0.0.1 --port 18442 --no-auth --agent-rewrites off \
  --max-tokens 8192 --context-window 32768 --reasoning off \
  --no-stats-footer --ssd-session-cache off --warmup-tokens 64 \
  --strict-warmup --fan-mode default --generation-mode mtp --load-mtp --depth 3

MTPLX は空の隔離された構成を使いました。AX Engine のモデルマニフェストは、固定されたローカルのみのダウンローダーで準備されました。公開者のモデル重みと MTP テンソルは保持されました。どちらの構成も、結果を得るために MTP を無効にしていません。

AX Code のツール受け入れ

別の AX Code ソース実行は、各モデルに読み取りツールで probe.txt を読み、その内容だけを返すよう求めました。状態と構成は隔離されました。AX Engine は、テストしたソースサーバーへの明示的なループバック接続を使いました。これらの実行はネイティブフェーズ表から除外されます。

モデル	ランタイム	読み取り完了	最終回答の正しいマーカー	出力のみの正確な形式
Tiel	AX Engine ソース	はい	はい	いいえ。散文とコードフェンスを追加
Tiel	MTPLX	はい	はい	はい
Cyber-Tiel	AX Engine ソース	はい	はい	いいえ。散文とコードフェンスを追加
Cyber-Tiel	MTPLX	はい	はい	はい

4 つのクライアントプロセスはすべて成功して終了し、実際の読み取り呼び出しを完了しました。2 つの AX Engine 実行は、より厳しい出力形式の要件に失敗したため、これはすべて緑の振る舞い認定でもコーディング品質の認定でもありません。それらのプロンプト、ツールペイロード、既定サンプリング、チャット処理はクライアントとランタイムの経路であり、一致トークンのフェーズベンチマークとは別です。これらのテストのために、クラウド、CLI、プライベート GPU、AX Trust の振る舞いは調整されていません。

別の管理された providers ax-engine start 呼び出しはモデル引数を省略し、固定リビジョンの tiel-coder-35b-axq-mxfp4 を mlx で選びました。そのライブ状態は、ツール対応、必須/必須の MTP ポリシー、アクティブな MTP、起草トークン 27、受理トークン 23 を報告しました。管理サーバーはそのあと成功して停止しました。これは隔離された AX Code 状態と、既存ヘルパーの AX_ENGINE_SERVER=/absolute/path/to/fixed/ax-engine-server 上書きを使いました。ユーザーのインストール済みバイナリとプロバイダー構成は置き換えられていません。ローダー修正を含むビルドで pnpm run dev を起動するとき、同じ上書きを設定できます。

カタログの変更は、17 件をスキップした 11,374 件の決定的テストに加え、SDK テスト 208 件、スクリプトテスト 259 件（94 件スキップ）、再帰的型チェック、リポジトリ構造チェック、TUI チェックに合格しました。新しい既定を使う前に、モデル選択とランタイム要件を参照してください。