Lupakan gagasan bahwa Anda memerlukan superkomputer untuk menjalankan AI tercanggih.
Model baru dari Qwen, 3.8 27B, mengubah segalanya, berjalan secara lokal pada RTX 4060 hanya dengan VRAM 8GB. Artinya, dengan kartu video yang harganya sekitar R$1.
Bagian yang mengejutkan: pengaturan Kaggle yang dilaporkan menjalankan Qwen 3.8 27B pada 2 NVIDIA T4 gratis dengan konteks 120k
Cache FP16 KV, total VRAM 26,6 GB, dan sekitar 14 token/detik. Setup diklaim kurang dari 5 menit tanpa kartu kredit.
Qwen 3.8: 550 ribu token · $1,90
Grok 4.6: 2–4 juta token · $4,20 0x Alpha: 1,2 juta token · GRATIS
GPU gratis 2x NVIDIA T4s & jalankan Qwen 3.8 27B pada 14 t/s dengan konteks 120k
Konteks 120rb di Kaggle T4 GRATIS. - FP16 KV - 14 ton/dtk - Tidak ada kartu kredit. - Tidak ada GPU yang mahal. - Total VRAM yang digunakan: hanya 26,6 GB di kedua kartu. - Pengaturan kurang dari 5 menit. - Kaggle memberi Anda 30 jam/minggu
Sudah sampai ujung arsip
Semua qwen38