Эта страница переведена с английской документации. Команды, идентификаторы и примеры не изменены. Среда выполнения 7.24.4 · SDK 2.6.7. Английский оригинал

Выбор модели и восстановление

Статус: активно Область: текущее состояние Последняя проверка: 2026-10-10 Владелец: среда выполнения ax-code

AX Code сохраняет точный выбор провайдера и модели. Подключение провайдера не добавляет его в автоматический пул восстановления. Если запасной цели нет, временные сбои повторяют выбранную цель в пределах существующего лимита повторов и затем останавливаются.

Настройка упорядоченного запасного варианта

Задайте llm_routing.fallback в пользовательской конфигурации, в особой конфигурации, выбранной через AX_CODE_CONFIG, или явным AX_CODE_CONFIG_CONTENT. Цели — точные пары; идентификаторы моделей могут содержать косые черты. Например:

{
  "model": "my-gateway/openai/gpt-oss-120b",
  "llm_routing": {
    "fallback": [
      { "providerID": "my-gateway", "modelID": "my-backup-model" },
      { "providerID": "my-other-provider", "modelID": "my-approved-model" }
    ]
  }
}

Замените эти примеры точными идентификаторами ваших настроенных провайдеров. Список допускает до восьми различных целей. Пустой или отсутствующий список означает, что цель не меняется. Конфигурация проекта и удалённая конфигурация могут сузить пользовательские разрешения, но не могут добавить их или изменить порядок. Управляемые ограничения задают окончательный потолок. Если следующая настроенная цель отсутствует, восстановление останавливается; AX Code не подставляет другую запись каталога.

Обычные временные ограничения частоты, распознанная перегрузка и ошибки сервера могут продвигать список после повторов той же цели. Сбои аутентификации, разрешений, постоянной квоты и недопустимого запроса не разрешают переключение. Сессии локального провайдера не переезжают на удалённый вывод автоматически. Отмена останавливает последовательность. Восстановление также останавливается, если текущий запрос уже опубликовал вывод или запустил инструмент: частичный прогресс сохраняется, а эффекты не воспроизводятся заново.

Процессор обычно допускает пять повторов той же цели после первой попытки; ошибки предела параллелизма имеют лимит в восемь повторов. Прерыватели цепи провайдера и внешние пределы ошибок могут остановить раньше. Успешные шаги цикла инструментов — это новые запросы, а не повторы прежней работы. Повторы AI SDK отключены в контролируемых местах прямого порождения. Внутренние попытки внешнего CLI и шлюза могут оставаться непрозрачными.

Вспомогательная работа и существующая конфигурация

Без small_model заголовок, пересказ и уплотнение наследуют основную модель. Явный small_model или модель агента для конкретной роли по-прежнему выбирает именно эту цель. Недействительные закрепления завершаются ошибкой и не переходят к другому провайдеру или модели. Необязательная работа заголовка и пересказа сохраняет локальное поведение «заголовок или пропуск». Уплотнение сохраняет стенограмму при сбое и меняет модель только через настроенное восстановление.

Настроенные основные модели, закрепления задачи, агента и команды, а также сохранённые недавние выборы тоже остаются точными. Недоступное закрепление нужно явно убрать или исправить. Безголовые запуски без настроенного или недавнего выбора требуют --model. Видимый выбор модели может предлагать рекомендации, но эти предложения не становятся списком восстановления.

Необязательный классификатор сложности требует явной вспомогательной модели; без неё классификация пропускается. При заданной основной модели он привязан к запрошенному провайдеру. Явный выбор основной модели переживает маршрутизацию по теме агента.

Просмотр действующей конфигурации

ax-code debug routing
ax-code debug routing --model my-gateway/openai/gpt-oss-120b

Печатает точную основную модель, упорядоченный запасной список, вспомогательный выбор, закрепления агентов и лимит повторов. Запрос к модели не отправляется, доступность модели не проверяется. Обычная загрузка конфигурации может получить настроенные удалённые параметры. Это объяснение конфигурации, а не восстановление прошлого поведения шлюза.

Сообщения пользователя записывают, откуда пришёл выбор: из запроса, закрепления агента, маршрутизации по сложности или гибриду либо из значений сессии и конфигурации по умолчанию. Этот источник описывает локальный вход; request не удостоверяет, кто управлял клиентом API. Свидетельство запроса записывает выбранное назначение и цель. Самоописания, порождённые моделью, и имена моделей в памяти или примерах инструментов не являются свидетельством маршрутизации. AX Trust и внешние провайдеры сохраняют ответственность за вышестоящую маршрутизацию и авторизацию.