Эта страница переведена с английской документации. Команды, идентификаторы и примеры не изменены. Среда выполнения 7.24.4 · SDK 2.6.7. Английский оригинал

Выбор модели AX Engine

Статус: действует Область: текущее состояние Последняя проверка: 2026-09-20 Владелец: среда выполнения ax-code

Через AX Engine (Local) на подходящих компьютерах Mac с Apple Silicon AX Code предлагает только эти два пакета для разработки. Tiel Coder — значение по умолчанию, Cyber-Tiel Coder — альтернатива.

Псевдонимы закрепляют ревизии 5ab39b24bfd7f65203be9b7823b1840486f58b6d и fe05e871ec69ad9ae8eac01fd285555514ac7daf соответственно. Оба используют селектор mlx и сохраняют пакет MXFP4 издателя. Карточки моделей описывают повторные квантования для разработки без сертифицированного заявления о паритете качества или скорости MTP. Их выбор не устанавливает собственное исполнение и не обещает прирост скорости.

AX Code включает подписанный выпуск AX Engine 7.5.7, в котором есть исправление загрузчика пространства имён sidecar Tiel из коммита 51137c71a6794964d52c32c95e275c0923ed8d0b. Более старые двоичные файлы Homebrew 7.4.0 этого исправления не содержат и отвергают эти пакеты с MlxMtpRequiredButUnavailable. Оставляйте MTP обязательным. Явные переопределения среды выполнения тоже должны содержать исправление. Измерения собственного prefill и decode сохраняют личность исходной проверенной сборки и не удостоверяют производительность более нового выпуска.

Qwen3.8 27B, Ornith, Qwen3-Coder-Next и все прочие репозитории исключены из нового управляемого выбора и загрузок. Каждый выбранный репозиторий появляется один раз. Настроенные псевдонимы и более старые кэшированные ревизии после обнаружения новых вариантов не добавляют. Другие провайдеры и отдельно настроенный интерфейс подключения через loopback сохраняют своё поведение. Чтобы запустить собственную плотную модель AX Engine по умолчанию, запустите ax-engine serve qwen3.8-27b:axq и подключите эту локальную конечную точку. Измеренный путь продукта с MTP даёт 31.05 tok/s decode на Mac mini M4 Pro 64 ГБ и 76.90 tok/s decode / 795.3 tok/s prefill на M5 Max 128 ГБ. Эти цифры — не tok/s завершения Tiel и не скорость сеанса AX Code. См. сводку сравнения Tiel.

Просмотр доступных моделей

ax-code providers ax-engine models --json
ax-code providers ax-engine models --refresh --json

Обновление читает метаданные Hugging Face, не скачивая веса и не запуская модель. Вложенные метаданные работают без сети и дополняют выбранный репозиторий, если его нет в старом кэше. Уже присутствующие ревизии молча не подменяются другой вложенной ревизией. Для выбора по-прежнему нужны действительные метаданные источника. Ограничение репозитория само по себе собственную возможность не устанавливает.

GET /provider/ax-engine/models возвращает каталог работающего CLI, включая точный идентификатор каждой модели, репозиторий, квантование, локальное состояние, оценки памяти и диска и статус проверки. Внешний графический интерфейс использует этот API среды выполнения. Если он показывает более старый список, проверьте CLI, который он запускает, и его версию. Разработка AX Coder может выбрать исходную среду выполнения через AX_CODE_BINARY или settings.axCodeBinary.

Подготовка выбранной модели

Скопируйте точный идентификатор модели из каталога. Псевдоним Tiel по умолчанию использует mlx:

ax-code providers ax-engine prepare \
  --model tiel-coder-35b-axq-mxfp4 --quantization mlx --download --start

Исключённые модели отклоняют новые запросы подготовки, загрузки и управляемой активации ещё до начала работы. Существующие записи моделей остаются доступны для статуса и очистки. Удалённые идентификаторы Qwen3.8, Ornith и Qwen3-Coder-Next никогда не перенаправляются ни на один артефакт Tiel. Удаление варианта не стирает его веса и не останавливает уже работающий сервер.

Память и проверка среды выполнения

Оба выбранных псевдонима используют контекст 65 536 токенов, предел вывода 8192 токена, оценку потребности в памяти 64 ГиБ и бюджет диска на загрузку 32 ГиБ. Это пределы обслуживания AX Code, а не максимальный контекст вышестоящего проекта. (Поднято с начального контекста 32 768 токенов: после резерва вывода оставалось лишь 24 576 пригодных входных токенов, меньше, чем требуют фиксированный системный промпт агента AX Code и схемы инструментов, поэтому совершенно новый сеанс не мог отправить даже первый ход.)

Каждая оценка памяти включает веса, sidecar, кэш KV, буферы и резерв хоста. Для текущей машины используйте результат размещения из живого каталога. Эти оценки не являются сертификацией оборудования или качества модели.

Цифра 64 ГиБ — консервативный бюджет планирования на полный контекст (64K), а не жёсткий минимум. Для удобной машины управляемого локального вывода мы рекомендуем Apple Silicon M4 Pro с 48 ГБ унифицированной памяти или больше (например Mac Mini M4 Pro 48 ГБ). Меньшие компьютеры Mac с Apple Silicon по-прежнему могут запускать сам AX Code от 8 ГБ с облачными моделями API или более лёгкими локальными средами.

Перед управляемой активацией AX Code проверяет контракт текста и структурированных инструментов активной модели AX Engine. Состояние verification-required означает, что подготовка завершена, но этот живой контракт ещё не установлен. Одни имена репозиториев или sidecar MTP не доказывают рассуждение, зрение, ускорение MTP или качество многоходового написания кода.

Сжатие сеанса использует бюджеты контекста и вывода активной модели и резервирует запас входа. Выбранный вариант хранит собственный бюджет каталога. Максимальный контекст исходной модели не является гарантией управляемой памяти.

Подробности жизненного цикла и транспорта см. в архитектуре локального движка.

Управляемая политика MTP

Управляемый AX Engine по умолчанию равен required, что соответствует выбранному артефакту MTP. Недоступный драфтер проваливает запуск вместо молчаливого отката к прямому декодированию. Веса MTP и настройка чистого наложения сами по себе активное ускорение не устанавливают. Пакет Tiel Coder по умолчанию использует профиль спекуляции auto, чтобы AX Engine выбирал шлюз черновика модели, а не переопределение 0.80 общего профиля agentic. Это отдельно от политики активации MTP: настройка auto по-прежнему использует MTP required. Старое экспериментальное окружение, специфичное для плотной Qwen3.8, к этим пакетам MoE не применяется. Измеренные выигрыши см. в сравнении профилей. Cyber-Tiel сохраняет agentic. Управляемые пробы задач чтения провалились с обоими профилями, поэтому надёжность его задач остаётся нерешённой. Политика активации остаётся required: движок должен допустить фактический драфтер. Чтобы явно выбрать политику, задайте provider.ax-engine.options.mtpPolicy в ax-code.json:

{
  "provider": {
    "ax-engine": {
      "options": {
        "mtpPolicy": "required"
      }
    }
  }
}

AX_ENGINE_MTP_POLICY даёт те же три значения, если параметр провайдера не задан. Автоматический выбор среды выполнения требует AX Engine 7.5.7 или новее, чтобы проводить эти политики, включая политику по умолчанию required. Явные настройки disabled и auto по-прежнему переопределяют значение по умолчанию. Более старые и неизвестные двоичные файлы отвергают выбор политики ещё до замены работающего движка. Обновитесь, прежде чем пользоваться управляемыми средствами политики. Исторические файлы состояния без записанной политики сообщают запущенную политику как неизвестную и заменяются при следующем управляемом запуске. Смена политики вступает в силу при следующем управляемом запуске или запросе модели и заменяет существующий процесс с другой политикой. Выбор модели и хранилище она не меняет.

ax-code providers ax-engine start --mtp-policy disabled переопределяет политику только для этого запуска. Задайте постоянный параметр провайдера, если последующие запросы написания кода должны использовать то же переопределение. Тела HTTP подготовки и запуска также принимают mtpPolicy. Эти управляемые настройки не перенастраивают отдельно подключённые конечные точки. После обновления исходного кода перезапустите pnpm run dev, чтобы загрузить новое значение по умолчанию. Уже работающий сервер разработки хранит загруженный код до перезапуска.

ax-code providers ax-engine status (или --json) разделяет запрошенную политику, запущенную политику и наблюдённое состояние active/inactive/unknown. Наблюдение использует последнюю метрику маршрута модели движка, а не метаданные модели или исторические счётчики черновиков. Отсутствующие выборки точной модели остаются неизвестными, в том числе до первого наблюдённого шага движка. Общесерверные сводки активацию не устанавливают. Настроенный required не показывается как доказательство активности. Счётчики черновика и принятого, когда они есть, накоплены для резидентного движка. Ожидающая смена политики сообщается без перезапуска во время просмотра статуса. Активация MTP не обещает конкретную скорость токенов.

Как читать локальную скорость ответа

Управляемый AX Engine не ставит потолок токенов в секунду. Измерение вроде 50 tok/s — это ни заданная цель, ни верхний предел: более быстрое оборудование может выдавать токены быстрее. Размер контекста, бюджеты вывода и пределы параллельности запросов управляют ёмкостью, а не фиксированной скоростью генерации токенов.

Текущий публичный снимок Tiel против MTPLX — это кампания собственного API от 20 сентября 2026 года, сведённая в сводке сравнения Tiel. На M5 Max 128 ГиБ пакет Tiel по умолчанию в управляемом режиме завершился на 194.88 tok/s включая TTFT (decode 217.85). Пиковое декодирование Cyber-Tiel 249.01 tok/s относится к альтернативному пакету, а не к пакету по умолчанию. Эти цифры — не скорость сеанса AX Code.

Сравнивайте измерения при той же длине входа, бюджете вывода, настройках выборки и состоянии кэша. Измерения decode на коротком промпте не устанавливают минимальную скорость сеанса написания кода с десятками тысяч токенов контекста. Повторное использование префикса сокращает обработку промпта. Последующее декодирование всё равно обращается к этому контексту. Одна активация MTP не устанавливает полезное принятие черновика и не даёт фиксированного ускорения.

Разделяйте запуск и подготовку, время до первого содержимого и устойчивую генерацию, когда разбираете медленный ход. Метрика движка ax_runtime_decode_tok_per_sec — экспоненциально взвешенное среднее по запросам, а не скорость текущего ответа. Для этого ответа используйте тайминги запроса и счётчики токенов, а для принятия MTP — дельты счётчиков. Фрагменты потока могут содержать несколько токенов. Если считать фрагменты токенами, скорость получится неверной.

AX Code до пяти минут повторно использует успешные пробы версии исполняемого файла. Доступность исполняемого файла проверяется при каждом разрешении, а кэшированные версии сбрасываются, когда меняется личность файла запускателя или собственного сервера. Неуспешные пробы можно повторить. Это сокращает повторную работу подготовки и не меняет скорость декодирования модели. Сервер разработки нужно перезапустить, чтобы загрузить изменения исходного кода.