このページは英語版ドキュメントの翻訳です。コマンド、識別子、例はそのままです。ランタイム 7.24.4 · SDK 2.6.7。 英語版

AX Engine のモデル選択

状態: 有効 範囲: 現行状態 最終確認: 2026-09-20 担当: ax-code ランタイム

AX Code は、対象の Apple Silicon Mac 上の AX Engine（ローカル） を通して、この 2 つの開発パックだけを提供します。Tiel Coder が既定で、Cyber-Tiel Coder が代替です。

別名は、それぞれリビジョン 5ab39b24bfd7f65203be9b7823b1840486f58b6d と fe05e871ec69ad9ae8eac01fd285555514ac7daf を固定します。どちらも mlx セレクターを使い、公開者の MXFP4 パッケージを保ちます。モデルカードは、保証された品質同等も MTP 速度の主張もない開発用再量子化を説明します。それらを選んでも、ネイティブ実行や速度改善は確立されません。

AX Code は署名済みの AX Engine 7.5.7 リリース を同梱し、これにはコミット 51137c71a6794964d52c32c95e275c0923ed8d0b からの Tiel サイドカー名前空間ローダー修正が含まれます。より古い Homebrew 7.4.0 バイナリにはその修正がなく、これらのパックを MlxMtpRequiredButUnavailable で拒否します。MTP は必須のままにしてください。明示的なランタイム上書きも、その修正を含まなければなりません。ネイティブなプリフィルとデコードの測定 は、元のテスト済みビルド識別を保持し、より新しいリリースの性能を保証しません。

Qwen3.8 27B、Ornith、Qwen3-Coder-Next、およびその他すべてのリポジトリは、新しい管理選択とダウンロードから除外されます。選ばれた各リポジトリは一度だけ現れます。設定された別名と、より古いキャッシュ済みリビジョンは、発見のあとに選択肢を追加しません。他のプロバイダーと、別に設定されたループバック接続インターフェースは、振る舞いを保ちます。AX Engine 自身の密な既定を動かすには、ax-engine serve qwen3.8-27b:axq を起動してそのローカルエンドポイントを接続します。測定された製品経路の MTP は、Mac mini M4 Pro 64 GB でデコード 31.05 tok/s、M5 Max 128 GB でデコード 76.90 tok/s / プリフィル 795.3 tok/s です。それらの数字は Tiel の完了 tok/s ではなく、AX Code のセッション速度でもありません。Tiel ピアの要約 を参照してください。

利用できるモデルを調べる

ax-code providers ax-engine models --json
ax-code providers ax-engine models --refresh --json

更新は、重みをダウンロードしたりモデルを起動したりせずに、Hugging Face メタデータを読みます。同梱メタデータはオフラインで働き、古いキャッシュから選ばれたリポジトリが欠けている場合に補います。存在するリビジョンは、別の同梱リビジョンで黙って置き換えられません。選択は依然として有効なソースメタデータを必要とします。リポジトリ制限はネイティブ能力を確立しません。

GET /provider/ax-engine/models は、実行中 CLI のカタログを返します。各モデルの正確な ID、リポジトリ、量子化、ローカル状態、メモリとディスクの見積もり、検証状態を含みます。外部 GUI はこのランタイム API を使います。より古い一覧を示す場合は、起動する CLI とそのバージョンを確認してください。AX Coder の開発は、AX_CODE_BINARY または settings.axCodeBinary でソースランタイムを選べます。

選んだモデルを準備する

カタログから正確なモデル ID をコピーします。既定の Tiel 別名は mlx を使います。

ax-code providers ax-engine prepare \
  --model tiel-coder-35b-axq-mxfp4 --quantization mlx --download --start

除外されたモデルは、作業を始める前に、新しい準備、ダウンロード、管理された有効化のリクエストを失敗させます。既存のモデル記録は、状態と掃除のために利用可能なままです。削除された Qwen3.8、Ornith、Qwen3-Coder-Next の ID は、どちらの Tiel 成果物へもリダイレクトされません。選択肢を除いても、その重みは削除されず、既存のサーバーは停止しません。

メモリとランタイムの検証

選ばれた両方の別名は、65,536 トークンのコンテキスト、8,192 トークンの出力上限、見積もりメモリ要件 64 GiB、ダウンロードディスク予算 32 GiB を使います。これらは AX Code のサービング上限であり、上流の最大コンテキストではありません。（最初の 32,768 トークンコンテキストから引き上げられました。出力の予約のあと使える入力トークンは 24,576 しか残らず、固定の AX Code エージェントシステムプロンプトとツールスキーマが必要とする量より少なかったため、まったく新しいセッションは最初のターンを送れませんでした。）

各メモリ見積もりには、重み、サイドカー、KV キャッシュ、バッファ、ホストの予約が含まれます。現在のマシンには、ライブカタログの適合結果を使ってください。これらの見積もりは、ハードウェアやモデル品質の保証ではありません。

64 GiB という数字は、保守的な全コンテキスト（64K）の計画予算であり、硬い下限ではありません。快適な管理ローカル推論マシンには、ユニファイドメモリ 48 GB 以上の Apple Silicon M4 Pro（たとえば Mac Mini M4 Pro 48 GB）を推奨します。より小さい Apple Silicon Mac でも、クラウド/API モデルまたはより軽いローカルランタイムとともに、8 GB から AX Code 自体は依然として動かせます。

管理された有効化の前に、AX Code はアクティブな AX Engine モデルのテキストと構造化ツール契約を確認します。verification-required 状態は、準備は完了しているが、そのライブ契約は確立されていないことを意味します。リポジトリ名や MTP サイドカーだけでは、推論、視覚、MTP 加速、複数ターンのコーディング品質は証明されません。

セッションのコンパクションは、アクティブモデルのコンテキストと出力の予算を使い、入力の余裕を予約します。選ばれたバリアントは独自のカタログ予算を保ちます。ソースモデルの最大コンテキストは、管理されたメモリの保証ではありません。

ライフサイクルと転送の詳細は、ローカルエンジンのアーキテクチャ を参照してください。

管理された MTP ポリシー

管理された AX Engine は既定で required であり、選ばれた MTP 成果物に一致します。起草者が使えない場合、直接デコードへ黙ってフォールバックせず、起動が失敗します。MTP 重みと純粋な積み重ね設定は、アクティブな加速を確立しません。既定の Tiel Coder パックは auto 推測プロファイルを使うため、AX Engine は一般的な agentic プロファイルの 0.80 上書きではなく、モデルの起草ゲートを選びます。これは MTP 有効化ポリシーとは別です。auto の調整は依然として required MTP を使います。古い密な Qwen3.8 固有の実験的環境は、これらの MoE パックには適用されません。測定された利得は プロファイル比較 を参照してください。Cyber-Tiel は agentic を保ちます。管理された読み取りタスクのプローブは両方のプロファイルで失敗したため、そのタスク信頼性は未解決のままです。有効化ポリシーは required のままです。エンジンは実際の起草者を認めなければなりません。ポリシーを明示的に選ぶには、provider.ax-engine.options.mtpPolicy を ax-code.json の中に設定します。

{
  "provider": {
    "ax-engine": {
      "options": {
        "mtpPolicy": "required"
      }
    }
  }
}

AX_ENGINE_MTP_POLICY は、プロバイダーオプションが設定されていないとき、同じ 3 つの値を提供します。自動のランタイム選択は、既定の required ポリシーを含むこれらのポリシーを強制するために、AX Engine 7.5.7 以降を必要とします。明示的な disabled と auto の設定は、依然として既定を上書きします。より古い、または未知のバイナリは、実行中のエンジンを置き換える前にポリシー選択を拒否します。管理されたポリシー制御を使う前にアップグレードしてください。記録されたポリシーがない履歴状態ファイルは、起動されたポリシーを不明と報告し、次の管理開始で置き換えられます。ポリシーの変更は、次の管理開始またはモデルリクエストで有効になり、異なるポリシーを持つ既存プロセスを置き換えます。モデル選択やストレージは変えません。

ax-code providers ax-engine start --mtp-policy disabled は、その開始についてだけポリシーを上書きします。以降のコーディングリクエストが同じ上書きを使うべきなら、永続的なプロバイダーオプションを設定してください。準備と開始の HTTP 本体も mtpPolicy を受け付けます。これらの管理設定は、別に接続されたエンドポイントを再設定しません。ソースを更新したあと、新しい既定を読み込むには pnpm run dev を再起動します。すでに動いている開発バックエンドは、再起動まで読み込まれたコードを保持します。

ax-code providers ax-engine status（または --json）は、要求されたポリシー、起動されたポリシー、観察された active/inactive/unknown 状態を分けます。観察は、エンジンの最新のモデル経路指標を使い、モデルメタデータや履歴の起草数は使いません。正確なモデルのサンプルが欠けているものは、最初に観察されたエンジンステップの前を含め、不明のままです。サーバー全体の集計は有効化を確立しません。設定された required は、活動の証明としては表示されません。利用できるときの起草と受理の数は、常駐エンジンについて累積です。保留中のポリシー変更は、状態検査の間にそれを再起動せず報告されます。MTP の有効化は、特定のトークン速度の約束ではありません。

ローカル応答速度の読み方

管理された AX Engine は、秒あたりトークンの上限を課しません。50 tok/s のような測定は、設定された目標でも上限でもありません。より速いハードウェアは、より速くトークンを作れます。コンテキストサイズ、出力予算、リクエストの並行上限は容量を制御し、固定のトークン生成速度は制御しません。

現在の公開されている Tiel 対 MTPLX のスナップショットは、Tiel ピアの要約 にまとめられた 2026年9月20日のネイティブ API キャンペーンです。M5 Max 128 GiB では、管理された既定の Tiel パックは TTFT を含めて 194.88 tok/s で完了しました（デコード 217.85）。Cyber-Tiel のピークデコード 249.01 tok/s は代替パックであり、既定ではありません。それらの数字は AX Code のセッション速度ではありません。

同じ入力長、出力予算、サンプリング設定、キャッシュ状態で測定を比較してください。短いプロンプトのデコード測定は、数万のコンテキストトークンを持つコーディングセッションの最低速度を確立しません。プレフィックスの再利用はプロンプト処理を減らします。その後のデコードは、それでもそのコンテキストに注意を向けます。MTP の有効化だけでは、有用な起草の受け入れや固定の高速化は確立されません。

遅いターンを調べるときは、起動とセットアップ、最初の内容までの時間、持続生成を分けてください。エンジンの ax_runtime_decode_tok_per_sec 指標は、リクエストをまたぐ指数加重平均であり、現在の応答の速度ではありません。その応答にはリクエストのタイミングとトークン数を、MTP 受け入れにはカウンタの差分を使ってください。ストリーミングチャンクは複数トークンを含めます。チャンクをトークンとして数えると、誤った速度になります。

AX Code は、成功した実行ファイルバージョンのプローブを最大 5 分間再利用します。解決のたびに実行ファイルの可用性を確認し、ランチャーまたはネイティブサーバーのファイル識別が変わると、キャッシュされたバージョンを無効にします。失敗したプローブは再試行可能なままです。これは繰り返されるセットアップ作業を減らします。モデルのデコード速度は変えません。ソースの変更を読み込むには、開発バックエンドを再起動しなければなりません。