FRAMEWIREEnglishDiperbarui Aug 21Kabel langsung
0:00 / 0:00

Qwen 3.8 2.4T berbobot terbuka membuat klon Call of Duty dalam satu perintah 🪖

Alibaba_Qwen merilis bobot 2.4T Max, jadi kami menyewa cluster B200 dan meminta model tersebut untuk membuat klon Call of Duty Output: ~1,1 juta token · 5 jam · satu perintah Hampir tidak ada yang bisa menjalankan 2.4T di rumah,

atomic.chatAug 2137
0:00 / 0:00

Saya bersenang-senang bermain-main dengan model Qwen 3.8 kemarin.

Yang mengejutkan saya adalah model ini hampir menjadi model terdepan namun dapat dijalankan pada laptop M1 Max 5 tahun saya! Sekarang tidak super cepat, 16 token/dtk tapi tetap saja! Lihat video kecil yang saya buat tentang cara mengaturnya:

Matt RongeAug 212
0:00 / 0:00

Saya melakukan hal ini, suara saya masuk melalui server rumah saya yang menjalankan Qwen 3.8

daniel 🍳Aug 212
0:00 / 0:00

Jadi saya berupaya membuat decoding dan prefill secepat mungkin pada mesin veloGB10 saya untuk model 3.8 27b.

Jaringan 4x DGX Spark saya diaktifkan (Mikrotik CRS812 DDQ ), Kabel QFSP56 berkualitas tinggi dengan semua jalur diverifikasi untuk berjalan pada kecepatan maksimal. Ini adalah Rust/CUDA murni (dengan

Άντιpacman🪽Aug 211