Menjalankan model dengan parameter 405 miliar biasanya berarti rak GPU seharga $30.000.
Salah satu pengembang membuatnya berjalan pada satu kartu 8GB, jenis yang sudah ada di laptop gaming selama bertahun-tahun. itu disebut AirLLM, dan triknya hampir sangat sederhana: alih-alih memuat seluruh model,
$AMD memenangkan Perlombaan Agentic AI / CPUs 🧵
AI Labs, Hyperscaler, dan Private Cloud akan membeli AMD EPYC untuk tahun-tahun mendatang! Bukan Nasihat Finansial! DYOR! AMD memenangkan perlombaan tak terduga pada tahun 2026, dan ini bukanlah perlombaan GPU yang ditonton semua orang selama dua tahun. Dr Lisa Su adalah…
Sudah sampai ujung arsip
Semua deepseek