KAT Coder V2.5 Dev (Q4_K_M) - 162 token/detik dekode - Single RTX 4090 (24GB VRAM) - 8500+ token/detik…

KAT Coder V2.5 Dev (Q4_K_M) - 162 token/detik decode - Single RTX 4090 (24GB VRAM) - 8500+ token/detik pra-pengisian - konteks 250 ribu - hampir seluruhnya dalam VRAM - llama.cpp Setelah memberi makan paksa 4090 ini pada raksasa 91GB (DeepSeek V4 Flash 0731) 2 hari yang lalu dan melihatnya tersedak hingga 12 t/s,…

AlokAug 653

Saya rasa Anda dapat membuat agen kreatif menggunakan OpenCode, MiniMax-H3, dan Qwen 3.8 27B.

あるふAug 143

Qwen 3.8 27B Q5 XYZ

ArkAug 146

Ini adalah simulator fisika yang dibuat murni menggunakan Qwen 3.8 27B dengan satu prompt.

Saya tidak memasukkan apa pun selain perintah itu.

gusguAug 141