Luar biasa! Kuantisasi NVFP4 Qwen-3.8-27B, aktifkan MTP
Kecepatan throughput pada DGX Spark telah mencapai 17tok/s, hampir dua kali lipat lagi Kalau digandeng MTP SGLang gak bakal bisa lepas landas✈️😄
Anda membayar harga Opus 4.8 untuk langkah-langkah yang diselesaikan model 27B dengan baik.
NVIDIA mengirimkan router open source minggu ini, NeMo SwitchYard. Ia membaca tugas dan memilih modelnya. Jumlahnya sendiri: SwitchYard di Opus 4.8 plus model yang lebih kecil menyelesaikan lebih banyak tugas daripada Opus
Qwen 3.8 27B Q5 XYZ, pulau surga kelangsungan hidup, grafik luar biasa, semuanya dihasilkan oleh model.
Sangat mengesankan karena hanya memiliki 27B parameter; Saya rasa ini adalah demonstrasi grafis terbaik dari model yang pernah saya tunjukkan sejauh ini.
Qwen 3.8 27B pada 3090. Ini adalah tumpukan saat menjawab.
Sudah sampai ujung arsip
Semua qwen38