Halaman ini diterjemahkan dari dokumentasi bahasa Inggris. Perintah, pengenal, dan contoh tidak diubah. Runtime 7.24.4 · SDK 2.6.7. Sumber bahasa Inggris

Perutean Auto-Route

Status: Aktif Cakupan: keadaan saat ini Terakhir ditinjau: 2026-10-10 Pemilik: ax-code runtime

Auto-route mengendalikan dua perilaku perutean yang independen di ax-code:

1. Perutean kata kunci — aktif secara bawaan. Mengganti agen ketika pesan cocok dengan kata kunci atau pola seorang spesialis. Terpicu di bawah 1 ms dan tidak memerlukan panggilan LLM. Jalur ini dilewati ketika perutean dinonaktifkan secara eksplisit, pengguna menyebut agen secara eksplisit, atau pesan adalah kelanjutan sintetis yang mempertahankan agen saat ini.

2. Perutean kompleksitas — opsional, diaktifkan oleh sakelar auto-route. Panggilan LLM ringan mengklasifikasikan setiap pesan sebagai kompleksitas low, medium, atau high. Pesan berkompleksitas low secara otomatis dilayani oleh small_model yang dikonfigurasi secara eksplisit, sehingga latensi pertanyaan sederhana berkurang.

Secara bawaan, auto-route mati — perutean kompleksitas dinonaktifkan. Perutean kata kunci terpisah dari sakelar ini dan tetap aktif secara bawaan kecuali dinonaktifkan oleh konfigurasi atau dilewati oleh pilihan agen yang eksplisit.

Mulai cepat

Alihkan dari TUI:

• Ketik /smart-llm di prompt, atau
• Tekan Ctrl+P dan cari “auto-route”, atau
• Klik indikator Auto-route nyala/mati di bilah status

Bilah status menampilkan keadaan saat ini:

• Auto-route nyala (teks ungu) — perutean kompleksitas aktif
• Auto-route mati (teks putih) — perutean kompleksitas dinonaktifkan (bawaan)

Pengaturan bertahan antar sesi di ax-code.json.

Cara kerja

Sumber kebenaran

Halaman ini merangkum perilaku yang dilihat pengguna. Ketika perilaku berubah, verifikasi dokumen terhadap:

• packages/ax-code/src/agent/router.ts untuk aturan perutean kata kunci dan classifyComplexity().
• packages/ax-code/src/session/prompt.ts untuk kapan perutean kata kunci dilewati dan kapan klasifikasi kompleksitas berjalan.
• packages/ax-code/src/server/routes/smart-llm.ts untuk perilaku bawaan, lingkungan, konfigurasi, dan persistensi.
• packages/ax-code/src/config/schema.ts untuk bidang konfigurasi perutean dan catatan penghentian.
• packages/ax-code/src/cli/tui/app.tsx untuk nama perintah garis miring, alias, label, dan tindakan bilah status.
• packages/ax-code/test/agent/router.test.ts dan tes sinkronisasi TUI untuk perilaku aktivasi yang diharapkan.

Hindari menggambarkan perutean kata kunci dan perutean kompleksitas model cepat sebagai satu fitur. Keduanya sengaja terpisah.

Perutean kata kunci (aktif secara bawaan, <1 ms)

Pesan pengguna dicocokkan dengan pola kata kunci dan regex untuk setiap agen spesialis (security, architect, debug, perf, devops, test). Jika kecocokan mencapai keyakinan ≥ 0.4, agen dapat berganti segera — tidak ada panggilan LLM. Jalur ini independen dari sakelar auto-route, tetapi dilewati ketika perutean dinonaktifkan, pengguna menyebut agen secara eksplisit, atau giliran saat ini mempertahankan agen yang ada untuk kelanjutan sintetis.

Perutean kompleksitas (hanya auto-route, ~200-500 ms)

Ketika auto-route diaktifkan, setiap pesan dikirim ke model yang cepat dan murah melalui classifyComplexity(). Panggilan LLM ini mengembalikan perkiraan kompleksitas (low / medium / high):

• Pesan berkompleksitas low memakai small_model yang dikonfigurasi secara eksplisit secara otomatis
• Pesan medium dan high memakai model bawaan seperti biasa
• Dilewati jika small_model tidak ada atau tidak tersedia
• Batas waktu 1.5 detik — kembali diam-diam jika LLM lambat atau tidak tersedia
• Semua kesalahan ditangkap diam-diam — tidak pernah memblokir pengguna

Perutean kompleksitas independen dari perutean agen. Ia tidak mengklasifikasikan agen spesialis yang dipakai — itu sepenuhnya ditangani oleh perutean kata kunci.

Apa yang dibantu Auto-Route

Perutean kata kunci menangani pemilihan agen spesialis untuk kata kunci teknis. Perutean kompleksitas memilih tingkat model yang sesuai berdasarkan seberapa banyak penalaran yang dibutuhkan jawaban.

Kekurangan dan pertimbangan

Latensi

Perutean kompleksitas menambah 200-500 ms pada pesan yang memicu panggilan klasifikasi. Perutean kata kunci (selalu aktif) tidak terpengaruh — ia kembali dalam <1 ms apa pun keadaannya.

Memerlukan model kecil

Perutean kompleksitas memerlukan konfigurasi small_model yang eksplisit. AX Code tidak menyimpulkan pembantu dari nama model atau memindahkan pin yang tidak tersedia ke penyedia lain. Tanpa pembantu yang dapat dipakai, klasifikasi dilewati dan model utama yang dipilih dipertahankan. Lihat Pemulihan model.

Pemakaian token

Setiap panggilan klasifikasi memakai kira-kira 100-200 token masukan dan 10-20 token keluaran — dapat diabaikan dibanding panggilan LLM utama yang mengikuti.

Bukan pengganti pemilihan eksplisit

Auto-route memperbaiki pemilihan tingkat model otomatis tetapi tidak dapat merute ke agen spesialis hanya berdasarkan bahasa alami. Untuk tugas kritis yang spesialis yang tepat penting, memilih agen secara eksplisit lewat pemilih agen atau penyebutan @agent lebih andal.

Konfigurasi

Alihkan dari TUI

Gunakan /smart-llm atau palet perintah (Ctrl+P → “Nyalakan atau matikan auto-route”). Perubahan berlaku segera dan disimpan ke ax-code.json proyek Anda.

Berkas konfigurasi

{
  "routing": {
    "llm": true
  }
}

Variabel lingkungan

AX_CODE_SMART_LLM=true ax-code

Variabel lingkungan menimpa pengaturan berkas konfigurasi.

Auto-Route dan pengaturan lain

Kapan mengaktifkan Auto-Route

Aktifkan jika:

• Anda ingin pertanyaan sederhana otomatis dirute ke model yang lebih murah dan lebih cepat
• Anda ingin mengurangi biaya token pada pertukaran berkompleksitas rendah
• Anda bekerja dengan penyedia yang memiliki model kecil atau flash yang andal

Biarkan mati jika:

• Anda lebih suka tanpa latensi tambahan pada setiap pesan
• Anda bekerja luring atau dengan jaringan yang tidak andal
• Anda ingin meminimalkan pemakaian token
• Anda selalu menyematkan model secara eksplisit