Jika Anda penasaran seperti apa ~48 tok/s.

Menjalankan MTPLX Qwen 3.8 4 bit quant -- sepenuhnya secara lokal pada 128gb MBP M5 dari

Zach WillsAug 171

Bagus! Menurut pengujian sebenarnya, model besar dengan skala 100 miliar berhasil diterapkan di DGX Spark!

! 100 miliar per mesin, kecepatan melonjak! (Lihat rekaman layar👇🏻) Namun, SGLang (sgl_project) dikatakan lebih cepat! Saya harus mengatakan bahwa ekosistem open source dalam negeri kini semakin kuat! Sangat disarankan agar semua orang mempelajari penerapan model lokal: instal Ling-3.0, Qwen 3.8 27B, Minimax…

LonelyAug 1721

Buat demo 3d percikan gaussian yang bagus.

Gunakan shader. three.js, banyak file. qwen 3.8 27B BF16 pada 4x 3090s satu tembakan:

Andrew I. ChristiansonAug 172

Visual indah dari seseorang yang menjalankan, qwen 3.8 27B secara lokal pada sistem VRAM RTX 5090 32 GB dengan 115 token/detik

Catatan, pos pemeriksaan BF16 resmi Qwen3.8-27B adalah 55,6 GB

Rohan PaulAug 17108