"AI Magic Mirror" 4090 yang dikerahkan secara lokal: Siapa pria paling tampan dalam jarak satu meter?
Saya menerapkan "cermin ajaib AI" pada 4090 - tanyakan padanya "Siapa pria paling tampan dalam radius satu meter", dan dia akan benar-benar melihat Anda sebelum menjawab. Seluruh cermin ajaib diimplementasikan berdasarkan proyek open source saya VoxEMW. Model pembagian kerja adalah sebagai berikut: • Mata: MiniCPM-V 4.6 (1,3 miliar multimodal ujung ke sisi) • Mulut: VoxCPM2 (2B…
Tumpukan AI ini mengubah pencarian mendalam menjadi agen penuh
Visi, penggunaan alat, dan konteks 1M memungkinkannya melihat, bernalar, dan membangun.
Tiongkok membangun AI yang dapat mematikan seluruh industri OCR dalam semalam.
Mereka membuat OCR seukuran kacang tanah yang mengurai seluruh 100 halaman PDF dalam satu kesempatan, tanpa panggilan API dan tanpa biaya cloud. Ini disebut Unlimited-OCR, model bahasa visi yang dibuat untuk menangani dokumen jangka panjang
SGLANG 23 : Paralelisme Pakar - IV
Perutean berat badan ahli. Asimetri dalam pemilihan ahli dapat menyebabkan utilisasi yang tinggi pada beberapa GPU sehingga dapat menimbulkan hambatan. SGL memecahkan masalah ini dengan menyeimbangkan kembali alokasi ahli di seluruh cluster setiap beberapa langkah (diatur menggunakan…
Sudah sampai ujung arsip
Semua deepseek