Posting terakhir saya menunjukkan cara mendapatkan lebih dari 100 tok/s pada dua DGX Sparks yang menjalankan Qwen 3.8 Flash.
Hari ini saya mengonfirmasi bahwa peningkatan 2x akan terjadi pada AI Lokal. Jawabannya adalah TensorFold. Saya akan memberi tahu Anda cara menjalankan model paling cerdas di AI meja menggunakan penemuan baru ini. Dua Sparks yang sama. Sama
Layanan Clean APIs menyediakan akses API ke beberapa model kecerdasan buatan yang populer dan sesuai…
Layanan Clean APIs menyediakan akses API ke beberapa model kecerdasan buatan yang populer dan sesuai dengan rencana saat ini di situs, tanpa otentikasi... Layanan Clean APIs menyediakan akses API ke beberapa model kecerdasan buatan yang populer dan sesuai dengan paket saat ini di situs, tanpa otentikasi kartu bank; Ini memberikan 5 juta token per bulan, batas paket gratis adalah 60 permintaan per menit dan 100,000…
Tugas terakhir hari ini adalah Qwen 3.8 Flash Coder berikutnya yang disetel untuk mengisi awal 2K Tok/s dan memecahkan kode 90 Tok/s.
Saya sedang menguji Pagoda sebagai model. Faktanya, saya agak senang karena kinerja pelaporannya tinggi dibandingkan dengan tingkat kuantisasi. Kalau performanya bagus dan DRAMnya mencukupi, bagi yang menunggu sudah ada 35B
Buat kastil abad pertengahan dari batu bata Lego asli, lalu sediakan semua langkah dan balok yang saya perlukan untuk membangunnya.
Qwen 3.8 27b, secara lokal di laptop saya. Saya belum terlalu terkesan dengan pilihan arsitekturalnya, tetapi instruksinya jelas dan Anda juga
Sudah sampai ujung arsip
Semua qwen38