Unsloth, kerangka kerja LLM tercepat di industri, kini juga tersedia sebagai aplikasi desktop!
Ini dapat menjalankan tugas-tugas yang awalnya membutuhkan A100 pada GPU tingkat konsumen, 2x kecepatan pelatihan, mengurangi memori video sebesar 70%, dan tetap menjaga akurasi. Model yang didukung mencakup jajaran produk mainstream: Qwen, Kimi K3, MiniMax-H3, Gemma 4, DeepSeek-V4, dan FLUX semuanya dapat dijalankan.
Menjalankan qwen 3.8 27B secara lokal di vram 5090 32 gb saya
Terkesan dengan kecepatan sekitar 115 t/s barang bagus
Sudah sampai ujung arsip
Semua deepseek