Bu sayfa İngilizce belgenin çevirisidir. Komutlar, tanımlayıcılar ve örnekler aynıdır. Çalışma zamanı 7.24.4 · SDK 2.6.7. İngilizce kaynak
Yerel Motor Bütünleştirmesi (AX Code)
Durum: Etkin Kapsam: güncel durum Son inceleme: 2026-09-19 Sahip: ax-code runtime İlgili: ax-engine LOCAL-ENGINE-CLIENTS
Yerel çalışma zamanı kurulumu
/connect içinde AX-Engine çalışma zamanını seçin, sonra Bir model seçin. AX Code
yerel çalışma zamanını yapılandırır ve seçilen model gerektiğinde başlatır.
Uç nokta URL formu veya API anahtarı formu yoktur. Durumu görüntüle, Yerel çalışma zamanını durdur
(çalışırken) ve Devre dışı bırak yerel süreci yönetir.
AX Code, AX Engine için sidecar HTTP arka ucunu kullanır. ax-engine serve sürecini başlatır, sahip olunan süreci izler ve geri döngü adresini
ile bağlantı noktasını otomatik çözer. Kullanıcı bir model seçer; AX Code taşıma
yapılandırmasını üstlenir.
AX Code (TypeScript)
-> select local model -> ensure/prepare -> spawn ax-engine serve
-> managed loopback /v1 -> @ai-sdk/openai-compatible language modelBir modeli açıkça seçmek yönetilen yaşam döngüsünü kaydeder ve eski bağlanma
uç nokta ile anahtar ayarlarını temizler. Bu, kalan bir AX_ENGINE_HOST değerini de geçersiz kılar.
Daha eski SDK istemcileri eski, yalnızca geri döngü bağlanma API’sini ve kimlik bilgisi
doğrulamasını korur. Bu uyumluluk yolu sağlayıcı menüsünün parçası değildir.
AX Code, AX Engine SDK’sını süreç içinde bağlama. AX Engine model yürütmesine sahiptir ve AX Code istemci tarafı süreç yaşam döngüsüne sahiptir. Ana makine uygunluğu, model hazırlığı ve canlı araç çağırma denetimleri hâlâ uygulanır.
Soğuk başlangıcın 600 saniyelik bir hazır olma sınırı vardır. Başlangıç süresi model boyutuna, depolama aktarım hızına ve kullanılabilir belleğe bağlıdır. Tükenen bir başlangıç, turu sunucu günlüğü ve model yoluyla durdurur; AX Code başka bir soğuk yükü otomatik yeniden başlatmaz veya sağlayıcı değiştirmez. Açıkça yeniden denemeden önce bildirilen sorunu giderin. Yaşam döngüsü kilidi beklemesi ve yetenek keşfi dahil model kurulum zarfı 660 saniye ile sınırlıdır. Süre dolunca bekleyen kurulum iptal edilir ve otomatik yeniden denemeler durur. Bir isteği iptal etmek, bir kurulum bağımlılığı henüz yanıt vermemiş olsa bile beklemeyi hemen durdurur. Hazır olma son tarihinden sonra veya sahip olunan süreç çıktıktan sonra gelen sağlık yanıtları hazır olmayı kuramaz.
Hazır olduktan sonra motor, konuşma turları boyunca yerleşik kalır. Başlatan turu tamamlamak veya iptal etmek hazır motoru durdurmaz. Başlangıç hâlâ sürerken iptal o denemeyi sonlandırır ve süreç kaydını kaldırır. Yerleşik bir motoru açıkça durdurmak için Yerel çalışma zamanını durdur kullanın.
AX Code standart Hugging Face önbellek konumunu izler ve
yerel diskler, SMB ve NFS bağları dahil kullanıcının depolama seçimine uyar. Önbellek
çözümlemesi sırasıyla HF_HUB_CACHE, sonra HF_HOME/hub, sonra
XDG_CACHE_HOME/huggingface/hub, sonra ~/.cache/huggingface/hub olur.
Açıkça yapılandırılmış veya hâlihazırda hazırlanmış bir model yolu, önbellek
keşfine üstün gelir. AX Code ağırlıkları taşımaz veya bu seçimleri
depolama türüne göre geçersiz kılmaz. Başlangıç tanıları gerçek model yolunu bildirir; böylece
kullanıcılar seçtikleri depolamada kullanılabilirliği ve okuma başarımını inceleyebilir.
Mevcut bir motor için AX Code, yanıt vermeyen bir süreci yeniden başlatmadan önce her biri iki saniye ile sınırlı ve 250 milisaniye aralıklı en fazla üç sağlık yoklaması yapar. İsteği iptal etmek mevcut süreci korur.
Neden sidecar
| Etken | Sidecar seçimi |
|---|---|
| Ana makine dili | Açık bir yerel süreç sınırı olan Node/Bun ajan çalışma zamanı |
| Yalıtım | Çok GB modeller ve yerel çökmeler ajan sürecinin dışında kalır |
| Yükseltme | ax-code yeniden derlenmeden sürüme kapılı paketli taban artı isteğe bağlı yönetilen katman |
| Sağlayıcı modeli | Diğer yerel ve bulut sağlayıcılarıyla aynı OpenAI uyumlu yol |
| Çok istemci | Bir sunucu server.json üzerinden sağlık denetlenebilir ve durdurulabilir |
Yaşam döngüsü evreleri
Uygulama: packages/ax-code/src/provider/ax-engine/lifecycle.ts
| Evre | Ne zaman (AX Code eşlemesi) |
|---|---|
unavailable |
Platform uygunluğu başarısız olur |
missing_dependency |
İkili eksik / sürüm çok eski / yürütülebilir değil |
missing_model |
Model yolu hazırlanmamış |
starting |
Sunucu süreci kaydedilmiş ama henüz hazır değil |
ready |
server.ready ve süreç sağlığı tamam |
degraded |
Hazır ama yetenek incelemesi toolcall desteklemiyor diyor |
error |
Çalışan bir denemede sağlık veya başlangıç başarısızlığı engelleri |
Önem sırası ax-engine docs/LOCAL-ENGINE-CLIENTS.md ile eşleşir.
İlgili kod
| Alan | Yol |
|---|---|
| Sunucu oluşturma / sağlık | packages/ax-code/src/provider/ax-engine/server.ts |
| Sağlayıcı yükleyici (yönetilen + bağlanma) | packages/ax-code/src/provider/ax-engine/provider-loader.ts |
| TUI yerel çalışma zamanı | packages/ax-code/src/cli/tui/component/dialog-provider.tsx |
| Yerel eylem yardımcıları | packages/ax-code/src/cli/tui/component/dialog-provider-options.ts |
| Toplu durum | packages/ax-code/src/provider/ax-engine/status.ts |
| Evre eşlemesi | packages/ax-code/src/provider/ax-engine/lifecycle.ts |
| Model ilkesi | AX Engine model seçimi |
Sabitlenmiş bir sidecar’ın yönetilen sağlanması süreç içi gömme değildir. Darwin-arm64
sürümleri engine/<version>/ değerini CLI yanına yerleştirir; daha yeni bir sabitleme yayımlandığında ax-code providers ax-engine install
katman ve güncelleyicidir.
Hedef olmayanlar
- Sidecar’ı AX Code içinde süreç içi SDK gömmesiyle değiştirmek
- Birincil sohbet taşıması olarak gRPC benimsemek
- Birinci taraf istemciler için özel Unix soketi veya OpenAI dışı sohbet çerçevelemesi
- Model ağırlıklarını AX Code yükleyicisine gömmek