Dia membeli satu rtx 3090 bekas.
Kemudian tagihan komputasi AI bulanannya mulai hilang. GPU seharga $700 ini menggantikan ribuan dolar dalam sewa komputasi AI. VRAM 24GB. Dan itu mengubah cara dia menjalankan AI. Ini adalah kasus hipotetis. Temui Alex. Dia sudah memiliki RTX 3070 di lokalnya
Saya menguji beberapa AI generatif untuk melihat apakah AI tersebut hanya berguna untuk penelitian dan…
Saya menguji beberapa AI generatif untuk melihat apakah AI tersebut memiliki kegunaan minimal untuk penelitian dan deepseek memberi tahu saya bahwa diabetes tidak memengaruhi fungsi pompa natrium-kalium.
DeepSeek-V4-Flash-Vision-Exp FP8 E4M3 pada 4× CMP 170hx (GA100) menggunakan vLLM PP4 + DSpark k=6
Hanya teks: streaming tunggal 119–162 tok/dtk - input gambar: C1: 45,3 tok/s, C2: agregat 78,2 tok/s - TTFT Hangat: 0,386
Melihat posting ini oleh Nick dan berpikir saya harus mengatasinya.
Saya pernah berada di posisi Nick dan berpikir bahwa membangun inferensi di rumah adalah hal yang bodoh dan tidak masuk akal. Saya… salah. Benar-benar salah. Saya membahas alasan mengapa kita yang sedang membangun inferensi rumah melakukan hal tersebut, yaitu a
Sudah sampai ujung arsip
Semua deepseek