DeepSeek-V4-Flash-Vision-Exp FP8 E4M3 pada 4× CMP 170hx (GA100) menggunakan vLLM PP4 + DSpark k=6
Hanya teks: streaming tunggal 119–162 tok/dtk - input gambar: C1: 45,3 tok/s, C2: agregat 78,2 tok/s - TTFT Hangat: 0,386
Melihat posting ini oleh Nick dan berpikir saya harus mengatasinya.
Saya pernah berada di posisi Nick dan berpikir bahwa membangun inferensi di rumah adalah hal yang bodoh dan tidak masuk akal. Saya… salah. Benar-benar salah. Saya membahas alasan mengapa kita yang sedang membangun inferensi rumah melakukan hal tersebut, yaitu a
Teori konspirasi ini terlalu masuk akal
Moon dev: "bukankah hedge fund membangun DeepSeek, dan memikirkan MENGAPA mereka melakukan itu" "bagaimana jika mereka sengaja membangunnya dengan tujuan yang buruk, dan alasannya benar-benar jahat"
Pemeringkatan ini baru saja mengungkap sesuatu yang tidak diharapkan oleh siapa pun
Moon dev: "nomor dua adalah moonshot kimmy k3 dan sejujurnya penempatan itu saja membuatku mempertanyakan segalanya" "deepseek menjadi benar-benar hancur dan inilah bagian yang tidak masuk akal"
Sudah sampai ujung arsip
Semua deepseek