Halaman ini diterjemahkan dari dokumentasi bahasa Inggris. Perintah, pengenal, dan contoh tidak diubah. Runtime 7.24.5 · SDK 2.6.9. Sumber bahasa Inggris
Perbandingan profil MTP Tiel
Status: Cuplikan lokal yang diukur Terakhir ditinjau: 2026-09-19 Pemilik: pengelola AX Code Cakupan: Pengukuran profil MTP Tiel native dan penerimaan AX Code terkelola
AX Code kini memilih profil spekulasi auto untuk paket Tiel Coder bawaan, sambil mempertahankan aktivasi MTP required. Cyber-Tiel mempertahankan agentic: kandidat auto gagal pada probe alat baca sungguhan dengan keluaran berulang dan kesalahan batas konkurensi berikutnya. Ini memungkinkan mesin memakai gerbang draf khusus model. Profil generik sebelumnya agentic menimpa gerbang itu dengan 0.80. Perbandingan native meningkatkan decode Tiel pada kedua beban kerja yang diukur dan Cyber-Tiel dengan masukan lebih panjang; hasil masukan pendek Cyber-Tiel sedikit menurun. Throughput native yang lebih tinggi tidak menetapkan perilaku alat yang dapat dipakai untuk kandidat itu.
Ini adalah pengukuran fase native AX Engine langsung pada Apple M3 Max dengan 128 GiB, bukan throughput tugas AX Code. Laporan asli AX Engine versus MTPLX tetap menjadi garis dasar historis M3 Max tanggal 19 September. Peringkat saat ini adalah kampanye empat mesin 20 September. MTPLX tidak dijalankan ulang dalam eksperimen profil ini, jadi hasil 92–96 token/s sebelumnya tidak boleh diperlakukan sebagai perbandingan serentak.
Hasil konfirmasi
Laju dalam token/s, masing-masing median dari tiga penyelesaian 256 token yang tidak di-cache. Pemuatan model dan pemanasan 64 token dikecualikan. Host memiliki aplikasi desktop lain yang aktif; ini cuplikan lokal kecil, bukan studi termal atau ketahanan yang terkendali.
| Model | Token masukan | Prefill agentik | Prefill auto | Decode agentik | Decode auto | Perubahan decode |
|---|---|---|---|---|---|---|
| Tiel, pendek | 458 | 795.40 | 830.19 | 47.60 | 54.69 | +14.9% |
| Tiel, konteks | 3,182 | 906.31 | 967.79 | 39.50 | 47.84 | +21.1% |
| Cyber-Tiel, pendek | 483 | 1,009.78 | 1,081.05 | 61.09 | 58.53 | -4.2% |
| Cyber-Tiel, konteks | 3,207 | 1,220.00 | 1,211.88 | 46.91 | 54.70 | +16.6% |
Hanya profil auto Tiel yang diadopsi. Angka auto Cyber-Tiel tetap bukti eksperimental, bukan bawaan yang dikirim. Kegagalan alat baca menghalangi promosi meskipun laju fase masukan lebih panjang meningkat; hal itu tidak menetapkan bahwa profil sendirilah penyebab kegagalan. Prefill berfluktuasi meskipun konfigurasi prefill sama. Laju absolut juga berbeda dari laporan sebelumnya, itulah sebabnya garis dasar historis itu tidak dipakai untuk menghitung peningkatan ini.
Semua 24 permintaan konfirmasi melaporkan MTP aktif, draf yang diterima positif, nol langkah cadangan langsung, dan nol token masukan yang dipakai ulang. Mesin melaporkan kode rute sampled-exact (ax_mtp_correctness_mode=2); klasifikasi runtime itu bukan sertifikasi numerik atau kualitas yang independen.
Masukan yang disanitasi, penghitung fase, semua tanda terima konfirmasi dan pilot, serta penerimaan terkelola dan alat menyertai laporan ini.
Pilot satu variabel
Satu uji pendahuluan per kasus mengisolasi gerbang sebelum perbandingan berulang. Jangan menggabungkan pilot ini dengan uji konfirmasi.
| Konfigurasi Tiel | Decode pendek | Decode konteks | MTP aktif |
|---|---|---|---|
agentic, lingkungan bawaan |
56.52 | 56.94 | Ya |
agentic, AX_MLX_MTP_DRAFT_MIN_CONFIDENCE=0 |
62.21 | 59.82 | Ya |
auto, lingkungan bawaan |
61.71 | 59.80 | Ya |
Pada pilot konteks, permintaan gerbang nol yang eksplisit dan auto menghasilkan token keluaran serta jumlah draf dan penerimaan yang identik. Timer rollback permintaan auto turun dari 1.061 s menjadi 0.055 s dan timer draf dari 0.718 s menjadi 0.130 s. Namun, siklus verifikasi naik dari 78 menjadi 111 dan evaluasi verifikasi tetap sekitar 2.26 s. Peningkatan decode total karenanya jauh lebih kecil daripada pengurangan salah satu timer. Penghitung ini menggambarkan jalur eksekusi yang berbeda; mereka bukan perkiraan independen yang dapat dijumlahkan untuk percepatan di masa depan.
Dua pilot draf stokastik tambahan, dengan dan tanpa penimpaan suhu draf 0.6, melaporkan MTP tidak aktif, 255 langkah cadangan langsung, dan tanpa draf. Perlindungan mesin memilih rute cadangan langsung. Tanda terima mentahnya disimpan dan secara eksplisit dikecualikan dari perbandingan MTP aktif. AX Code tidak mengadopsi penimpaan ini atau melewati perlindungan itu.
Reproduksi dan cakupan
Gunakan build mesin, snapshot tersemat, token prompt, parameter sampling, dan perintah peluncuran yang sama dengan metode pengukuran asli, hanya mengubah --speculation-profile agentic menjadi --speculation-profile auto. Permintaan konfirmasi tidak memiliki penimpaan lingkungan MTP tambahan. Cache prefiks dinonaktifkan dengan AX_MLX_PREFIX_CACHE_MAX_ENTRIES=0. Rumus decode native tetap (output_tokens - 1) / native_decode_seconds; prefill adalah token masukan yang tidak di-cache dibagi detik prefill native.
Mesin adalah build sumber yang dioptimalkan dari 51137c71a6794964d52c32c95e275c0923ed8d0b, MLX 0.32.2, SHA-256 server 1fbe7fc50ea16448f98350616273214c0475bffb3ef509fceb3f8849163e97f5. Biner Homebrew 7.4.0 yang diuji mendahului perbaikan pemuat namespace Tiel yang diperlukan, meskipun build sumber ini juga melaporkan 7.4.0. Tidak ada biner terpasang atau konfigurasi pengguna yang diganti.
Urutan konfirmasi adalah Tiel/auto, Tiel/agentic, Cyber-Tiel/agentic, Cyber-Tiel/auto. Setiap peluncuran menerima satu pemanasan 64 token, lalu tiga uji pendek dan tiga uji konteks. Hanya satu backend inferensi yang berjalan pada satu waktu; kompilasi dan rangkaian tes dikecualikan dari uji berwaktu. Lebar penjadwal tetap 2,048, konteks 32,768, anggaran keluaran maksimum 8,192, dan konkurensi maksimum 1. AX Code terkelola sungguhan mempertahankan lebar penjadwal yang ada sebesar 8,192, jadi tabel fase tidak menetapkan throughput klien penuhnya.
Perubahan bawaan hanya berlaku untuk repositori AutomatosX Tiel Coder yang persis dan aliasnya. Cyber-Tiel mempertahankan profil agentic sebelumnya. Penimpaan profil peluncuran yang eksplisit tetap menang. Lingkungan eksperimental dan geometri prefiks Qwen3.8 yang padat tetap terpisah; keduanya tidak diterapkan ke Tiel. Model historis atau yang tidak dikenali mempertahankan profil sebelumnya. Perilaku penyedia cloud, CLI, GPU privat, dan AX Trust tidak berubah.
Penerimaan terkelola dan alat
Eksekusi sumber terisolasi yang terpisah menguji aktivasi Tiel bawaan dan aktivasi Cyber-Tiel eksplisit, MTP wajib dan aktif secara langsung, alat read AX Code, serta penghentian terkelola. Tiel dengan auto menyelesaikan pembacaan dan mengembalikan penanda yang benar, tetapi menambahkan prosa dan pagar kode alih-alih hanya mengembalikan isi berkas. Cyber-Tiel dengan auto mengulang tindakan yang dimaksud tanpa menyelesaikan pembacaan, memicu penjaga loop keluaran, menerima respons batas konkurensi 429 pada percobaan ulang berikutnya, dan keluar dengan kesalahan setelah sekitar 81 detik. Kontrol agentic yang dipertahankan mereproduksi keluaran berulang yang sama dan gagal setelah sekitar 84 detik. Karena itu kegagalan tugas ini tidak terisolasi pada auto; mempertahankan profil lama tidak mengklaim memperbaiki Cyber-Tiel. Kedua kegagalan disimpan bersama diagnostik terpisah dengan cache dinonaktifkan dalam tanda terima JSON. Pemeriksaan ini terpisah dari pengukuran throughput dan tidak mensertifikasi kualitas pengodean secara umum.
Diagnostik Cyber-Tiel dengan cache dinonaktifkan memakai agentic dengan hanya AX_MLX_PREFIX_CACHE_MAX_ENTRIES=0 yang ditambahkan. Ia keluar dengan sukses tetapi tidak memanggil read dan secara keliru mengklaim fixture yang tidak kosong itu kosong. Keberhasilan proses saja karenanya tidak memenuhi penerimaan tugas. Diagnostik ini tidak diadopsi sebagai jalan pintas.
| Probe terkelola | Pembacaan selesai | Penanda benar | Hasil |
|---|---|---|---|
Tiel, auto, cache normal |
Ya | Ya | Diadopsi; format hanya keluaran yang persis tetap gagal |
Cyber-Tiel, agentic, cache normal |
Tidak | Tidak | Konfigurasi yang ada gagal penerimaan tugas |
Cyber-Tiel, auto, cache normal |
Tidak | Tidak | Kandidat ditolak |
Cyber-Tiel, agentic, cache dinonaktifkan |
Tidak | Tidak | Diagnostik gagal; tidak ada perubahan cache yang diadopsi |
Keempat server terkelola melaporkan MTP wajib dan aktif selama penerimaan dan berhenti dengan sukses. Profil baru hanya dikualifikasi untuk penerimaan Tiel yang dibatasi seperti yang ditunjukkan di sini. Cyber-Tiel tetap dapat dipilih tetapi keandalan tugas baca terkelolanya belum terselesaikan. Keberhasilan baca server langsung sebelumnya tidak menetapkan kesetaraan dengan aktivasi terkelola; lebar penjadwal, konfigurasi cache, permintaan sebelumnya, dan konteks prompt berbeda di antara probe itu.
Validasi setelah perubahan yang dibatasi: 11,390 tes deterministik lulus, 17 dilewati; 208 tes SDK dan 259 tes skrip lulus (94 tes skrip dilewati). Artefak SDK yang dihasilkan mencakup dua alias model yang dipilih dan stabil per byte pada build kedua. Pemeriksaan typecheck rekursif dan struktur repositori lulus. Audit fase native memvalidasi semua 24 tanda terima konfirmasi dan menyimpan pilot yang memenuhi syarat maupun yang ditolak.