Bu sayfa İngilizce belgenin çevirisidir. Komutlar, tanımlayıcılar ve örnekler aynıdır. Çalışma zamanı 7.24.4 · SDK 2.6.7. İngilizce kaynak

AX Engine model seçimi

Durum: Etkin Kapsam: güncel durum Son inceleme: 2026-09-20 Sahip: ax-code çalışma zamanı

AX Code, uygun Apple Silicon Mac’lerde AX Engine (Yerel) üzerinden yalnızca bu iki geliştirme paketini sunar. Tiel Coder varsayılandır; Cyber-Tiel Coder alternatiftir.

Takma adlar sırasıyla 5ab39b24bfd7f65203be9b7823b1840486f58b6d ve fe05e871ec69ad9ae8eac01fd285555514ac7daf revizyonlarını sabitler. İkisi de yayımcının MXFP4 paketini koruyan mlx seçicisini kullanır. Model kartları, belgeli kalite denkliği veya MTP hız iddiası olmayan geliştirme yeniden nicelemelerini anlatır; onları seçmek yerel yürütme veya bir hız iyileştirmesi oluşturmaz.

AX Code imzalı AX Engine 7.5.7 yayını paketler; bu yayın 51137c71a6794964d52c32c95e275c0923ed8d0b commit’indeki Tiel sidecar ad alanı yükleyici düzeltmesini içerir. Daha eski Homebrew 7.4.0 ikilileri bu düzeltmeden yoksundur ve bu paketleri MlxMtpRequiredButUnavailable ile reddeder. MTP’yi gerekli tutun; açık çalışma zamanı geçersiz kılmaları da düzeltmeyi içermelidir. Yerel ön doldurma ve decode ölçümleri özgün sınanmış derleme kimliğini korur ve daha yeni yayının başarımını belgelemez.

Qwen3.8 27B, Ornith, Qwen3-Coder-Next ve diğer tüm depolar yeni yönetilen seçim ve indirmelerden çıkarılmıştır. Seçilen her depo bir kez görünür. Yapılandırılmış takma adlar ve daha eski önbelleğe alınmış revizyonlar keşiften sonra seçenek eklemez. Diğer sağlayıcılar ve ayrı yapılandırılmış geri döngü ekleme arayüzü davranışını korur. AX Engine’in kendi yoğun varsayılanını çalıştırmak için ax-engine serve qwen3.8-27b:axq başlatın ve o yerel uç noktayı ekleyin; ölçülen ürün yolu MTP, Mac mini M4 Pro 64 GB üzerinde 31.05 tok/s decode ve M5 Max 128 GB üzerinde 76.90 tok/s decode / 795.3 tok/s ön doldurmadır. Bu sayılar Tiel tamamlama tok/s değildir ve AX Code oturum hızı değildir. Bkz. Tiel eş özeti.

Kullanılabilir modelleri inceleyin

ax-code providers ax-engine models --json
ax-code providers ax-engine models --refresh --json

Yenileme, ağırlık indirmeden veya model başlatmadan Hugging Face üst verisini okur. Paketlenmiş üst veri çevrimdışı çalışır ve seçilen depo daha eski bir önbellekte yoksa onu tamamlar. Mevcut revizyonlar farklı bir paketlenmiş revizyonla sessizce değiştirilmez. Seçim yine geçerli kaynak üst verisi ister; depo kısıtı yerel yetenek oluşturmaz.

GET /provider/ax-engine/models çalışan CLI kataloğunu döndürür; her modelin tam kimliği, deposu, nicelemesi, yerel durumu, bellek/disk tahminleri ve doğrulama durumu dahildir. Dış bir GUI bu çalışma zamanı API’sini kullanır. Daha eski bir liste gösteriyorsa başlattığı CLI’yi ve sürümünü denetleyin. AX Coder geliştirme, AX_CODE_BINARY veya settings.axCodeBinary ile bir kaynak çalışma zamanı seçebilir.

Seçilen modeli hazırlayın

Tam model kimliğini katalogdan kopyalayın. Varsayılan Tiel takma adı mlx kullanır:

ax-code providers ax-engine prepare \
  --model tiel-coder-35b-axq-mxfp4 --quantization mlx --download --start

Çıkarılan modeller, iş başlamadan önce yeni hazırlama, indirme ve yönetilen etkinleştirme isteklerini başarısız kılar. Mevcut model kayıtları durum ve temizlik için kullanılabilir kalır; kaldırılan Qwen3.8, Ornith ve Qwen3-Coder-Next kimlikleri iki Tiel yapıtından birine asla yönlendirilmez. Bir seçeneği kaldırmak ağırlıklarını silmez veya mevcut bir sunucuyu durdurmaz.

Bellek ve çalışma zamanı doğrulaması

Seçilen iki takma ad da 65,536 token bağlam, 8,192 token çıktı sınırı, tahmini 64 GiB bellek gereksinimi ve 32 GiB indirme disk bütçesi kullanır. Bunlar AX Code sunma sınırlarıdır, yukarı akış azami bağlamı değildir. (İlk 32,768 token bağlamdan yükseltildi: bu, çıktı rezervinden sonra yalnızca 24,576 kullanılabilir girdi tokeni bırakıyordu; sabit AX Code ajan sistem istemi ve araç şemalarının gerektirdiğinden az, bu yüzden yepyeni bir oturum ilk turu asla gönderemeyebilirdi.)

Her bellek tahmini ağırlıkları, sidecar’ları, KV önbelleğini, tamponları ve konak rezervini içerir. Güncel makine için canlı kataloğun sığma sonucunu kullanın. Bu tahminler donanım veya model kalitesi belgesi değildir.

64 GiB sayısı tutucu bir tam bağlam (64K) planlama bütçesidir, sert bir taban değildir. Rahat bir yönetilen yerel çıkarım makinesi için 48 GB veya üzeri birleşik belleğe sahip bir Apple Silicon M4 Pro öneririz (örneğin Mac Mini M4 Pro 48 GB); daha küçük Apple Silicon Mac’ler AX Code’un kendisini 8 GB ile bulut/API modelleri veya daha hafif yerel çalışma zamanlarıyla yine çalıştırabilir.

Yönetilen etkinleştirmeden önce AX Code, etkin AX Engine modelinin metin ve yapılandırılmış araç sözleşmesini denetler. verification-required durumu hazırlığın tamamlandığı ancak bu canlı sözleşmenin kurulmadığı anlamına gelir. Depo adları veya MTP sidecar’ları tek başına akıl yürütme, görme, MTP ivmesi veya çok turlu kodlama kalitesi kanıtlamaz.

Oturum sıkıştırması etkin modelin bağlam/çıktı bütçelerini kullanır ve girdi boşluğu ayırır. Seçilen varyant kendi katalog bütçesini korur; kaynak modelin azami bağlamı yönetilen bir bellek garantisi değildir.

Yaşam döngüsü ve taşıma ayrıntıları için Yerel motor mimarisi sayfasına bakın.

Yönetilen MTP ilkesi

Yönetilen AX Engine varsayılan olarak seçilen MTP yapıtıyla eşleşen required kullanır. Kullanılamayan bir taslakçı, sessizce doğrudan çözmeye düşmek yerine başlangıcı başarısız kılar. MTP ağırlıkları ve saf yığma ayarı etkin ivme oluşturmaz. Varsayılan Tiel Coder paketi auto spekülasyon profilini kullanır; böylece AX Engine genel agentic profilinin 0.80 geçersiz kılması yerine modelin taslak kapısını seçer. Bu, MTP etkinleştirme ilkesinden ayrıdır: auto ayarı yine required MTP kullanır. Eski yoğun Qwen3.8’e özgü deneysel ortam bu MoE paketlerine uygulanmaz. Ölçülen kazançlar için profil karşılaştırmasına bakın. Cyber-Tiel agentic korur; yönetilen okuma görevi sondaları iki profilde de başarısız oldu, bu yüzden görev güvenilirliği çözülmemiş kalır. Etkinleştirme ilkesi required olarak kalır; motor gerçek taslakçıyı kabul etmelidir. Bir ilkeyi açık seçmek için provider.ax-engine.options.mtpPolicy değerini ax-code.json içinde ayarlayın:

{
  "provider": {
    "ax-engine": {
      "options": {
        "mtpPolicy": "required"
      }
    }
  }
}

AX_ENGINE_MTP_POLICY, sağlayıcı seçeneği ayarlı değilken aynı üç değeri sağlar. Otomatik çalışma zamanı seçimi bu ilkeleri, varsayılan required ilkesi dahil zorlamak için AX Engine 7.5.7 veya daha yenisini gerektirir. Açık disabled ve auto ayarları varsayılanı yine geçersiz kılar. Daha eski/bilinmeyen ikililer çalışan bir motoru değiştirmeden önce ilke seçimini reddeder; yönetilen ilke denetimlerini kullanmadan önce yükseltin. Kaydedilmiş ilkesi olmayan tarihsel durum dosyaları başlatılan ilkelerini bilinmiyor olarak raporlar ve sonraki yönetilen başlangıçta değiştirilir. İlke değiştirmek sonraki yönetilen başlangıçta veya model isteğinde etkili olur ve farklı ilkeli mevcut bir sürecin yerini alır. Model seçimini veya depoyu değiştirmez.

ax-code providers ax-engine start --mtp-policy disabled ilkeyi yalnızca o başlangıç için geçersiz kılar. Sonraki kodlama istekleri aynı geçersiz kılmayı kullanmalıysa kalıcı sağlayıcı seçeneğini ayarlayın. Hazırlama/başlatma HTTP gövdeleri de mtpPolicy kabul eder. Bu yönetilen ayarlar ayrı eklenmiş uç noktaları yeniden yapılandırmaz. Kaynağı güncelledikten sonra yeni varsayılanı yüklemek için pnpm run dev yeniden başlatın; zaten çalışan bir geliştirme arka ucu yeniden başlatılana kadar yüklediği kodu korur.

ax-code providers ax-engine status (veya --json) istenen ilkeyi, başlatılan ilkeyi ve gözlenen active/inactive/unknown durumunu ayırır. Gözlem, model üst verisini veya tarihsel taslak sayılarını değil motorun en son model-yol metriğini kullanır. Tam model örneklerinin eksikliği, ilk gözlenen motor adımından önce dahil bilinmiyor kalır; sunucu geneli toplamlar etkinleşme oluşturmaz. Yapılandırılmış required etkinliğin kanıtı olarak gösterilmez. Taslak/kabul sayıları varsa yerleşik motor için birikimlidir. Bekleyen bir ilke değişikliği, durum incelemesi sırasında onu yeniden başlatmadan raporlanır. MTP etkinleşmesi belirli bir token hızının sözü değildir.

Yerel yanıt hızını yorumlama

Yönetilen AX Engine saniye başına token tavanı koymaz. 50 tok/s gibi bir ölçüm ne yapılandırılmış bir hedef ne de bir üst sınırdır: daha hızlı donanım tokenleri daha hızlı üretebilir. Bağlam boyutu, çıktı bütçeleri ve istek eşzamanlılık sınırları kapasiteyi denetler, sabit bir token üretim hızını değil.

Güncel herkese açık Tiel karşısında MTPLX anlık görüntüsü, Tiel eş özeti içinde özetlenen 20 Eylül 2026 yerel API kampanyasıdır. M5 Max 128 GiB üzerinde yönetilen varsayılan Tiel paketi TTFT dahil 194.88 tok/s tamamladı (decode 217.85). Cyber-Tiel tepe decode 249.01 tok/s alternatif pakettir, varsayılan değildir. Bu sayılar AX Code oturum hızı değildir.

Ölçümleri aynı girdi uzunluğu, çıktı bütçesi, örnekleme ayarları ve önbellek durumunda karşılaştırın. Kısa istemli decode ölçümleri on binlerce bağlam tokeni olan bir kodlama oturumu için asgari bir hız oluşturmaz. Bir öneki yeniden kullanmak istem işlemeyi azaltır; sonraki çözümleme yine bu bağlama dikkat eder. MTP etkinleşmesi tek başına yararlı taslak kabulü veya sabit bir hızlanma oluşturmaz.

Yavaş bir turu araştırırken başlangıç/kurulum, ilk içeriğe kadar süre ve sürdürülen üretimi ayırın. Motorun ax_runtime_decode_tok_per_sec metriği istekler boyunca üstel ağırlıklı bir ortalamadır, güncel yanıtın hızı değildir. O yanıt için istek zamanlamalarını ve token sayılarını, MTP kabulü için sayaç deltalarını kullanın. Akış parçaları birden çok token içerebilir; parçaları token saymak yanlış bir hız verir.

AX Code başarılı yürütülebilir sürüm sondalarını beş dakikaya kadar yeniden kullanır. Her çözümlemede yürütülebilir kullanılabilirliğini denetler ve başlatıcı veya yerel sunucu dosya kimliği değişince önbelleğe alınmış sürümleri geçersiz kılar. Başarısız sondalar yeniden denenebilir kalır. Bu, yinelenen kurulum işini azaltır; model decode hızını değiştirmez. Kaynak değişikliklerini yüklemek için bir geliştirme arka ucu yeniden başlatılmalıdır.