Menjalankan Qwen 3.8 Flash Next di ponsel Android 12GB - 2 tok/s

Raffaele ManciniAug 26

Qwen 3.8 Flash baru saja mengenai Agen Atom.

Agen lokal GRATIS - $0 per token, berjalan di mesin Anda. Tanpa cloud, tanpa kunci API. Inferensi bersifat lokal Batasan tata bahasa GBNF memaksa pemanggilan alat yang valid dari model apa pun KV-cache menggunakan kembali komputasi di seluruh langkah. SQLite menyimpan sesi yang dapat dicari…

kaizeAug 2614

Qwen3.8-Flash-Next dari Alibaba_Qwen mendapat dukungan hari ke-0 di Agen Atom!

Model utama 125B, penyematan N-gram 51B, 6B diaktifkan per token dan 62,5 di SWE-bench Pro. Kami memberinya sebuah folder dan memeriksa setiap file untuk mengurutkannya berdasarkan konten. Total: 25 langkah + 230 ribu token ≈ $0,07

Atomic AgentAug 2612

3.8 Flash Next berjalan sempurna di ponsel Android saya (RAM 12GB)

Seperti yang Anda ketahui, proyek Bigmoeonedge saya memungkinkan menjalankan model besar di perangkat edge - seperti ponsel Android kelas menengah dengan RAM 12 GB. Menyusul DeepSeek dan berbagai model lainnya, Qwen 3.8 Flash Next

Raffaele ManciniAug 261