Qwen 3.8 27B pada 56tps; pada GPU berusia 9 tahun btw
Nvidia V100 32GB ~$650 di eBay sekarang! Menggunakan Dflash 2; menonaktifkan ECC juga menambah kecepatan! Berpikir dan prosa sedikit lebih lambat, tetapi 56-63 tps dalam kode gen! MTP berjalan lebih cepat untuk prosa vs DFlash2 tetapi kode berkelanjutan lebih lambat
Lowk terkesan saya memberikan Qwen 3.8 lokal repo nix saya
Memintanya untuk menyederhanakan apa pun yang bisa ini hasilnya setelah 2 jam
Kebingungan hanya menempatkan agen AI lengkapnya di komputer Anda.
Dan model keamanan mungkin lebih penting dibandingkan model AI itu sendiri. Apa yang berubah: → Model, orkestrator, alat, penalaran, dan akses file dapat dijalankan secara lokal → Model peluncuran: Qwen 3.8 27B, ditambah Perplexity
Aplikasi misterius ini dibuat secara mandiri oleh Clio Agent 3 Beta tanpa instruksi apa pun.
Model dasarnya adalah Qwen 3.8 27B
Sudah sampai ujung arsip
Semua qwen38