Esta página é uma tradução da documentação em inglês. Comandos, identificadores e exemplos permanecem iguais. Runtime 7.24.5 · SDK 2.6.9. Original em inglês

Comparação de perfis MTP do Tiel

Status: instantâneo local medido Última revisão: 2026-09-19 Responsável: mantenedores do AX Code Escopo: medições do perfil MTP nativo do Tiel e aceitação gerenciada do AX Code

O AX Code agora seleciona o perfil de especulação auto para o pacote padrão Tiel Coder, mantendo a ativação de MTP required. O Cyber-Tiel conserva agentic: o candidato auto falhou na sonda real da ferramenta de leitura, com saída repetitiva e erros seguintes de limite de concorrência. Isso permite que o motor use a sua porta de rascunho específica do modelo. O perfil genérico anterior agentic substituía essa porta por 0.80. A comparação nativa melhorou a decodificação do Tiel nas duas cargas medidas e a do Cyber-Tiel com entrada mais longa; o resultado de entrada curta do Cyber-Tiel regrediu um pouco. A vazão nativa mais alta não estabeleceu um comportamento utilizável de ferramenta para esse candidato.

Estas são medições diretas de fase nativa do AX Engine num Apple M3 Max com 128 GiB, e não a vazão de tarefas do AX Code. O relatório original do AX Engine contra o MTPLX continua sendo a linha de base histórica de 19 de setembro no M3 Max. A classificação atual é a campanha de quatro máquinas de 20 de setembro. O MTPLX não foi executado de novo neste experimento de perfil, então os resultados anteriores de 92–96 tokens/s não devem ser tratados como uma comparação simultânea.

Resultados de confirmação

As taxas estão em tokens/s, cada uma a mediana de três completações de 256 tokens sem cache. O carregamento do modelo e o aquecimento de 64 tokens ficam de fora. O computador tinha outros aplicativos de área de trabalho ativos; isto é um instantâneo local pequeno, não um estudo controlado de temperatura ou de resistência.

Somente o perfil auto do Tiel é adotado. Os números auto do Cyber-Tiel continuam evidência experimental, não o padrão que ele distribui. A falha da ferramenta de leitura impede a promoção, mesmo com a taxa de fase de entrada mais longa melhor; isso não estabelece que o perfil, sozinho, tenha causado a falha. O prefill oscilou apesar da mesma configuração de prefill. As taxas absolutas também diferem do relatório anterior, e por isso aquela linha de base histórica não foi usada para calcular estes ganhos.

Todas as 24 solicitações de confirmação informaram MTP ativo, rascunhos aceitos positivos, zero passos de alternativa direta e zero tokens de entrada reutilizados. O motor informou o código de rota amostrado-exato (ax_mtp_correctness_mode=2); essa classificação de runtime não é uma certificação numérica nem de qualidade independente.

Entradas sanitizadas, contadores de fase, todos os recibos de confirmação e de piloto, e a aceitação gerenciada e de ferramenta acompanham este relatório.

Pilotos de uma só variável

Um ensaio preliminar por caso isolou a porta antes da comparação repetida. Não misture estes pilotos com os ensaios de confirmação.

No piloto de contexto, a porta zero explícita e as solicitações auto produziram tokens de saída idênticos e as mesmas contagens de rascunho e de aceitação. O temporizador de reversão da solicitação auto caiu de 1.061 s para 0.055 s, e o temporizador de rascunho de 0.718 s para 0.130 s. Porém, os ciclos de verificação subiram de 78 para 111, e a avaliação de verificação ficou em cerca de 2.26 s. A melhora total da decodificação foi, portanto, bem menor do que a redução de qualquer um dos temporizadores. Esses contadores descrevem caminhos de execução diferentes; não são estimativas independentes e aditivas de acelerações futuras.

Dois pilotos adicionais de rascunho estocástico, com e sem uma substituição de temperatura de rascunho de 0.6, informaram MTP inativo, 255 passos de alternativa direta e nenhum rascunho. A proteção do motor escolheu a rota de alternativa direta. Os recibos brutos foram conservados e excluídos de forma explícita da comparação com MTP ativo. O AX Code não adota essas substituições nem contorna essa proteção.

Reprodução e escopo

Use a mesma compilação do motor, os mesmos instantâneos fixados, os mesmos tokens de prompt, os mesmos parâmetros de amostragem e o mesmo comando de lançamento do método original de medição, mudando apenas --speculation-profile agentic para --speculation-profile auto. As solicitações de confirmação não tiveram substituições adicionais de ambiente de MTP. O cache de prefixo foi desativado com AX_MLX_PREFIX_CACHE_MAX_ENTRIES=0. A fórmula nativa de decodificação continua (output_tokens - 1) / native_decode_seconds; o prefill é o número de tokens de entrada sem cache dividido pelos segundos nativos de prefill.

O motor era uma compilação otimizada a partir do código de 51137c71a6794964d52c32c95e275c0923ed8d0b, MLX 0.32.2, servidor com SHA-256 1fbe7fc50ea16448f98350616273214c0475bffb3ef509fceb3f8849163e97f5. O binário Homebrew 7.4.0 testado é anterior à correção exigida do carregador de namespace do Tiel, embora esta compilação a partir do código também informe 7.4.0. Nenhum binário instalado nem configuração de usuário foi substituído.

A ordem de confirmação foi Tiel/auto, Tiel/agentic, Cyber-Tiel/agentic, Cyber-Tiel/auto. Cada lançamento recebeu um aquecimento de 64 tokens e depois três ensaios curtos e três de contexto. Só um backend de inferência executava por vez; compilação e suítes de teste ficaram de fora dos ensaios cronometrados. A largura do agendador permaneceu em 2,048, o contexto em 32,768, o orçamento máximo de saída em 8,192 e a concorrência máxima em 1. O AX Code gerenciado real conserva a largura de agendador existente de 8,192, então a tabela de fases não estabelece a vazão completa do cliente.

A mudança padrão vale apenas para o repositório exato AutomatosX Tiel Coder e para o seu alias. O Cyber-Tiel conserva o perfil anterior agentic. Substituições explícitas de perfil de lançamento ainda prevalecem. O ambiente experimental do Qwen3.8 denso e a geometria de prefixo continuam separados; nenhum dos dois é aplicado ao Tiel. Modelos históricos ou não reconhecidos conservam o perfil anterior. O comportamento de provedores de nuvem, de CLI, de GPU privada e do AX Trust não muda.

Aceitação gerenciada e de ferramenta

Execuções isoladas e separadas, a partir do código, exercitam a ativação padrão do Tiel e a ativação explícita do Cyber-Tiel, o MTP exigido e ativo ao vivo, a ferramenta read do AX Code e o desligamento gerenciado. O Tiel com auto concluiu a leitura e devolveu o marcador correto, mas acrescentou prosa e uma cerca de código em vez de devolver só o conteúdo do arquivo. O Cyber-Tiel com auto repetiu a ação pretendida sem concluir uma leitura, acionou a proteção contra laço de saída, recebeu respostas 429 de limite de concorrência nas tentativas seguintes e saiu com erro depois de cerca de 81 segundos. O controle retido agentic reproduziu a mesma saída repetitiva e falhou depois de cerca de 84 segundos. Portanto, esta falha de tarefa não está isolada em auto; conservar o perfil antigo não pretende corrigir o Cyber-Tiel. As duas falhas ficam retidas junto de um diagnóstico separado com cache desativado, no recibo JSON. Estas verificações são separadas da cronometragem de vazão e não certificam qualidade geral de programação.

O diagnóstico do Cyber-Tiel com cache desativado usou agentic apenas com AX_MLX_PREFIX_CACHE_MAX_ENTRIES=0 acrescentado. Ele saiu com sucesso, mas não invocou read e afirmou, de forma incorreta, que o fixture não vazio estava vazio. O sucesso do processo, sozinho, portanto não satisfez a aceitação da tarefa. Este diagnóstico não é adotado como contorno.

Os quatro servidores gerenciados informaram MTP exigido e ativo durante a admissão e pararam com sucesso. O perfil novo está qualificado apenas para a aceitação limitada do Tiel mostrada aqui. O Cyber-Tiel continua selecionável, mas a confiabilidade da tarefa de leitura gerenciada permanece sem resolução. O sucesso anterior de leitura no servidor direto não estabelece equivalência com a ativação gerenciada; a largura do agendador, a configuração de cache, as solicitações anteriores e o contexto do prompt diferem entre essas sondas.

Validação depois da mudança delimitada: 11,390 testes determinísticos passaram e 17 foram pulados; 208 testes do SDK e 259 testes de script passaram (94 testes de script pulados). Os artefatos gerados do SDK incluem os dois aliases de modelo selecionados e ficam estáveis em bytes numa segunda compilação. A verificação recursiva de tipos e as checagens de estrutura do repositório passaram. A auditoria de fase nativa valida todos os 24 recibos de confirmação e retém tanto os pilotos elegíveis quanto os rejeitados.