Terima kasih atas ide cepatnya saat saya menguji qwen 3.8 27b pada berbagai harness!
Qwen 3.8 27b berjalan selama 30-40 menit.
NGL Saya sangat terkesan.
Qwen 3.8 27B berjalan secara lokal dalam satu klik pada Magnitude
Di Macbook Pro M4 Max saya kecepatannya antara 10-20 tok/s Model hebat jika Anda memiliki bandwidth memori untuk menjalankannya dengan cepat. Jika tidak, model MoE seperti Qwen 3.6 35B A3B akan jauh lebih cepat. Berharap untuk melihat Qwen 3.8 MoE kecil!
Oneshot qwen 3.8 27b q4 di mac m5 (8 menit) dan yang kedua di rtx4090 (kurang dari 3 menit) -- model yang sama
Dipinjam cepat dari: (terima kasih!)
Sudah sampai ujung arsip
Semua qwen38