PERPLEXITY 🔥: Pelanggan Perplexity Pro dan Max kini dapat menggunakan Komputer Portabel baru di DGX…
PERPLEXITY 🔥: Pelanggan Perplexity Pro dan Max kini dapat menggunakan Komputer Portabel baru di DGX Spark dari NVIDIA, yang murni ditenagai oleh model lokal! Model yang tersedia: PPLX 27B adalah model pasca-pelatihan baru dari Perplexity. Qwen 3.8 27B Nemotron 3.5 Lightning (segera hadir) Mereka…
Today we’re launching Portable Computer on NVIDIA DGX Spark.
Portable Computer is a fully local version of Perplexity Computer, where the entire runtime: orchestrator LLM, subagent LLM, agent harness all run on your local hardware. No cloud dependency.
Mencoba menjalankan model Qwen 3.8 2-bit secara lokal di Book4 Pro saya yang menjalankan Omarchy✌️
Ini berfungsi, tetapi saya mendapat sekitar 1,2 tkn/detik ... terlalu lambat untuk benar-benar menggunakannya (diharapkan).. ini adalah batas dari apa yang dapat saya jalankan pada perangkat keras saya saat ini... mungkin hanya menunggu model 35B MoE
Hitung model populer terkini dan data perangkat keras: M5 Max Qwen 3.8 27B MLX 4bit (model padat)
Konteks singkat dasarPP sekitar 900-925 tok/sTPS 32-33 tok/s ~32k TPS dan 28-29 tok/dtk Dalam kebanyakan kasus, ada peningkatan yang signifikan setelah mengaktifkan MTP atau DFlash. Pengukuran MTPLX sebenarnya kebanyakan 55-65 tok/sDFlash2, beberapa orang sudah mencapai sekitar 70 tok/s M5 Ultra Hari Ini…
Sudah sampai ujung arsip
Semua qwen38