› La mattina dell’8 novembre, su Hacker News è comparso un repository con una promessa da capogiro: DeepSeek V4 Flash, un modello da 284 miliardi di parametri, in 64 GB di normale RAM e senza scheda grafica.
› Il primo commento chiedeva: con quale quantizzazione?
› La risposta è: in media 1,71 bit per peso.
› Ho letto la documentazione, verificato se il modello entrerebbe nel mio computer e valutato i costi rispetto all’API.llama-modchip in breve (aggiornato al 9 novembre 2026)Che cos’è: patch per llama.cpp e un file del modello DeepSeek-V4-Flash-0731 modificato, con licenza Apache 2.0, versione 2.4.0.File del modello: 60,73 GB su disco; picco di 57,6-58,9 GiB di memoria con una finestra di contesto di 256 mila token.Velocità dichiarata dagli autori (Ryzen 9 9955HX da laptop, 16 core, Linux): 9,1-10 token al secondo durante la generazione, fino a 14,7 con la previsione; lettura del prompt a circa 44 token al secondo.Il programma pronto all’uso è disponibile solo per Linux x86_64.