Oke. Qwen 3.8 Berikutnya Q3, 7900xtx 64gbddr5.
Linux outpaces Windows by .5 toks on best configs running on my Chonk Buffer llama. 19.8 t/s Linux vs 19.34 best recipe. Full offload linux 15.4 vs 15.5. Was kind of surprised. Expected more but my zero overhead protocols 🦾 14 toks at 262k
Setiap jenis mesin inferensi berjalan berdasarkan getaran.
I got Qwen 3.8 already running on this modest tab BTW, however I'm trying to pool as many ops/fixes to the OpenCL backend as possible. has the fixes in opencl-fixes and qwen38-fixes cc: ggerganov
Qwen 3.8 flash selanjutnya membuat halaman arahan ini dalam 29 menit dan menyajikannya sendiri di tailnet saya.
I am running official fp8 on 2x dgx spark, full 256k context loaded, 45 tok/s with mtp on. i have run deepseek and glm on these boxes and it was good, this one just feels right.
Terinspirasi oleh perbandingan ini, saya memutuskan untuk melakukan hal yang sama tetapi menggunakan Harness yang berbeda dan Qwen 3.8 27B lokal saya.
Muy sorprendido de lo que es capaz el modelo con tan poco. Y es clarisimo que el harness importa y mucho. Creo que droid, opencode, omp y hermes dieron los
Sudah sampai ujung arsip
Semua qwen38