AI locale: modelli di testo, immagini, video e musica su PC
Eseguire l'AI locale sul proprio computer elimina abbonamenti e invio di dati nel cloud. Ecco i test su RTX 4090 con consumi di VRAM, velocità e vincoli di licenza per testo, immagini, video e audio.
👁 120 letture
L’AI locale comprende tutti quei modelli di intelligenza artificiale che puoi eseguire direttamente sul tuo computer: scrivono testi, generano immagini, montano video, creano brani musicali e leggono documenti ad alta voce, senza bisogno di account, abbonamenti mensili o caricamento di dati nel cloud. Tutto ciò che trovi in questa guida l’ho installato, configurato e misurato sul mio PC con scheda video NVIDIA RTX 4090 da 24 GB, rilevando velocità di calcolo, occupazione di memoria VRAM e prestazioni reali. Che tu voglia avviare un LLM locale per gestire file riservati o costruire una pipeline per la grafica, qui trovi i riferimenti tecnici necessari per scegliere l’hardware e i software giusti.
Aggiornamento del 20 ottobre 2026: quattro nuovi modelli open-weight - Muse Spark Open, DeepSeek V4.1 Flash 1017, Step 5 e Nemotron 3.5 Super VL - sono troppo grandi per una singola GPU da 24 GB. Dimensioni, licenze e il mio test: LLM open source: 4 modelli a pesi aperti testati (ottobre 2026).
Per un confronto più ampio dei generatori video AI, con i risultati dei miei test, i prezzi in USD e i piani gratuiti: Generatore video AI: classifica dai test e prezzi 2026.
Situazione al 17 ottobre 2026
- Testo: Gemma 4 31B raggiunge 41-43 tok/s occupando 19,2 GB di VRAM; su schede da 8-12 GB la scelta ideale resta Gemma 4 12B.
- Immagini: FLUX 3 Image Klein produce un’immagine in 6-7 secondi occupando solo 7,5 GB di VRAM (misurazione del 17.10.2026).
- Video: Kandinsky 6.0 Lite genera 5 secondi di video con audio sincronizzato in circa 2 minuti, con licenza MIT.
- Musica: ACE-Step 1.5 produce tracce complete con voce chiara (95,6% di parole riconoscibili nel mio test), utilizzabile anche a scopo commerciale.
I migliori modelli per ogni categoria
Ho selezionato un modello vincitore per ciascun ambito di utilizzo in base ai benchmark eseguiti sulla mia postazione (RTX 4090 24 GB, processore Intel Core i9-14900KF, 64 GB RAM, Windows 11). Conoscere la licenza d’uso è fondamentale quando si fa IA in locale, perché stabilisce con precisione se puoi sfruttare l’output per scopi commerciali o solo personali.
| Categoria | Vincitore | Misurazione RTX 4090 | Uso commerciale |
|---|---|---|---|
| Testo (24 GB) | Gemma 4 31B | 42 tok/s, 19,2 GB VRAM | Sì (Apache 2.0) |
| Testo (8-12 GB) | Gemma 4 12B | 91-104 tok/s, circa 8 GB | Sì (Apache 2.0) |
| Immagini (bilanciato) | FLUX 3 Klein | 6-7 s, 7,5 GB VRAM | Sì (<5M USD) |
| Immagini (velocità) | Qwen-Image 2.1 Turbo | 3-4 s, 16,8-18,6 GB | No (solo ricerca) |
| Immagini (lavoro aperto) | Z-Image Turbo | 4,2 s, fino a 18 GB | Sì (Apache 2.0) |
| Video con audio | Kandinsky 6.0 Lite | 1:51-2:28 min per 5 s | Sì (MIT) |
| Brani con voce | ACE-Step 1.5 | 34-91 s, 95,6% parole | Sì (MIT) |
| Sintesi vocale (TTS) | XTTS v2 | 17,6 s per 53 s audio | No |
| Trascrizione audio | Whisper large-v3 | Punto di riferimento aperto | Sì (MIT) |
Inizia qui: configurare l’AI locale in 4 passi
- Controlla la memoria della scheda video (VRAM). Su Windows 11 apri Gestione attività (Task Manager), vai su Prestazioni, seleziona GPU e leggi il valore indicato alla voce “Memoria GPU dedicata”. In alternativa, se usi una scheda NVIDIA, puoi aprire il terminale ed eseguire il comando:
nvidia-smiQuesto dato determina quali modelli potrai eseguire senza rallentamenti.
- Scegli il software in base al tuo obiettivo. Se vuoi conversare o scrivere testi, installa LM Studio oppure Ollama; se vuoi un’interfaccia da browser identica a ChatGPT con cronologia e gestione documenti, abbina Open WebUI a Ollama; per immagini, video e musica orientati su ComfyUI o per app gestite con script usa Pinokio; per le trascrizioni punta direttamente su Whisper.
- Scarica un primo modello collaudato. Per i testi ti consiglio di partire da Gemma 4 12B (circa 7 GB di download). Per la grafica scarica Z-Image Turbo oppure FLUX 3 Klein. Effettua il download solo da repository ufficiali su Hugging Face o dai registri verificati dell’applicazione che utilizzi.
- Verifica che il modello risieda interamente nella GPU. Se usi Ollama, verifica lo stato con il comando:
ollama psAssicurati che indichi “100% GPU”. Se un modello eccede la VRAM e sposta anche solo poche parti del carico sul processore centrale, la velocità di elaborazione crolla drasticamente.
Modelli linguistici di testo (LLM locale)
Un LLM locale sostituisce i servizi cloud per redigere sintesi, tradurre, scrivere codice ed elaborare documentazione aziendale. Applicazioni come Ollama, LM Studio o llama.cpp condividono il medesimo motore di inferenza, offrendo quindi prestazioni simili a parità di risorse. Ho effettuato le misurazioni sulla mia RTX 4090 rilevando velocità di generazione ed ingombro di memoria.
| Modello | VRAM | Velocità | Punteggio test |
|---|---|---|---|
| Gemma 4 31B QAT | 19,2 GB | 41-43 tok/s | 9,5/10 (5 task) |
| Qwen 3.8 27B (Q4_K_M) | 17,0 GB | 50 tok/s | 72,2 / 100 |
| Bielik 11B v3 (Q8) | 16,7 GB | 72 tok/s | 64,4 / 100 |
| GPT-OSS 20B | 12,2 GB | 218 tok/s | 52,4 / 100 |
| Gemma 4 12B | circa 8 GB | 91-104 tok/s | 72,3 / 100 |
| Gemma 4 E4B | 5,4-6,1 GB | 110-129 tok/s | - |
Nel mio test di scrittura comparativo del 26 settembre 2026, valutato tramite giudici AI (scala da 0 a 100), Gemma 4 12B ha ottenuto 72,3 punti e Qwen 3.8 27B ne ha totalizzati 72,2; nello stesso scenario Claude Haiku 4.5 via API ha registrato 62,7 punti. Tra le opzioni aperte in altre lingue segnalo anche Bielik 11B v3, un’alternativa polacca rilasciata da SpeakLeash con licenza Apache 2.0. Tutti i modelli indicati in questa tabella adottano la licenza Apache 2.0 e consentono l’impiego per attività professionali. Puoi consultare la guida a Gemma 4 31B su RTX 4090 e approfondire la scelta dei formati leggeri nel test su GGUF e quantizzazione.
Generazione di immagini sul proprio PC
I generatori di immagini possono essere gestiti facilmente tramite ComfyUI. I modelli recenti riescono a riprodurre testi complessi all’interno delle scene e a strutturare l’anatomia delle mani molto meglio rispetto alla prima generazione di Stable Diffusion. Ecco i dati raccolti durante i test su RTX 4090:
| Modello | Tempo a immagine | Picco VRAM | Uso commerciale |
|---|---|---|---|
| FLUX 3 Image Klein (int8) | 6-7 s (1024×1536) | 7,3-7,5 GB | Sì (<5M USD) |
| Qwen-Image 2.1 Turbo | 3-4 s | 16,8-18,6 GB | No (ricerca) |
| Qwen-Image 2.1 (25 passi) | 13-20 s | fino a 19 GB | No (ricerca) |
| Z-Image Turbo | 4,2 s (1344×768) | fino a 18 GB | Sì (Apache 2.0) |
I tempi escludono la prima fase di caricamento dei pesi dal disco alla VRAM (che può richiedere da 10 a 45 secondi addizionali). Le rilevazioni su FLUX 3 Klein e Qwen Turbo risalgono al 17 ottobre 2026 su ComfyUI 0.41, mentre Z-Image Turbo è stato testato il 26 settembre 2026. FLUX 3 Klein si distingue per la leggerezza: ha richiesto solo 7,5 GB di VRAM totale della scheda, rendendosi accessibile su schede con 8 o 12 GB. Per i progetti commerciali senza clausole restrittive la soluzione ideale resta Z-Image Turbo sotto licenza Apache 2.0, mentre puoi trovare ulteriori approfondimenti tecnici nella guida a Qwen-Image 2.1 e nelle tecniche per creare influencer AI in locale.
Generazione video su GPU locale
L’elaborazione video rappresenta il compito computazionale più esigente per un PC domestico. Con 24 GB di memoria video è possibile gestire modelli fino a qualche decina di miliardi di parametri. Un frammento video di soli 5 secondi richiede tipicamente da uno a diversi minuti di calcolo continuativo.
| Modello | Dettagli clip | Memoria rilevata | Uso commerciale |
|---|---|---|---|
| Kandinsky 6.0 Lite | 5 s con audio (1:51-2:28 min) | 19-20 GB VRAM | Sì (MIT) |
| Kandinsky 6.0 Pro (int8) | 5 s con audio (6:18-6:52 min) | 21 GB VRAM + 29 GB RAM | Sì (MIT) |
| Wan 2.2 TI2V 5B | senza audio (~1 min, 960×544) | fino a circa 20 GB | Sì (Apache 2.0) |
| LTX-Video 13B | 58 s complessivi | VRAM > 9 GB | Sì (<10M USD) |
Ho misurato Kandinsky 6.0 il 17 ottobre 2026 e Wan 2.2 il 27 settembre 2026 lanciando ComfyUI con il parametro --disable-smart-memory; senza tale opzione il medesimo clip subiva forti rallentamenti in presenza di altri programmi attivi in memoria. Kandinsky 6.0 genera fotogrammi e audio in una singola sessione: la versione Pro articola frasi complesse ma necessita del supporto della memoria di sistema RAM, mentre la variante Lite è circa tre volte più rapida ma può distorcere il parlato. Per un’analisi specifica puoi leggere la guida dedicata a LTX-Video in locale e gli esperimenti sui video di influencer AI in locale.
Musica e sintesi vocale: brani, doppiaggio e trascrizione
Nella generazione musicale ho sottoposto quattro modelli locali allo stesso testo vocale (3 tentativi per modello), verificando poi il segnale tramite Whisper large-v3 per determinare quante parole risultassero pienamente comprensibili (test del 17 ottobre 2026).
Nei miei test, ACE-Step 1.5 genera una canzone da 2 minuti in un intervallo compreso tra 34 e 91 secondi (picco tra 10,7 e 20 GB di VRAM) con licenza aperta MIT. YuE2 ha toccato il 100% di precisione con brani in inglese, ma adotta una licenza non commerciale CC BY-NC. MiniMax Music 3 ha mostrato la tendenza a troncare le tracce audio prima della conclusione naturale, mentre per tracce strumentali ed effetti sonori puoi consultare la guida a Stable Audio 3.
Per la conversione testo-voce (TTS) ho valutato l’accuratezza di pronuncia dei motori aperti l’8 ottobre 2026:
| Modello | Pronuncia (mio punteggio) | Risorse e tempo | Uso commerciale |
|---|---|---|---|
| XTTS v2 | 10 / 15 punti | 3,0 GB VRAM, 17,6 s per 53 s | No |
| Piper (voce gosia) | 6 / 15 punti | Solo CPU, 5,8 s per 36 s | Motore GPL-3.0 |
| Chatterbox Multilingual | 4 / 15 punti | 5,3 GB VRAM, 26,4 s per 33 s | Sì (MIT) |
Per un esame dettagliato delle timbriche e della qualità vocale rimando al confronto tra voci AI TTS. Nel campo della trascrizione da voce a testo (STT) lo standard resta Whisper large-v3 di OpenAI sotto licenza MIT: stando alla classifica di Artificial Analysis, modelli come Voxtral Small 24B richiedono circa 55 GB di memoria e hanno vincoli di copertura linguistica.
Hardware: cosa puoi eseguire con 8, 12, 16 e 24 GB di VRAM
La memoria video dedicata è il fattore cardine per eseguire l’AI sul tuo computer. Sulla mia RTX 4090 da 24 GB ho simulato il comportamento dei modelli su tagli di memoria inferiori riducendo tramite Ollama il numero di layer trasferiti sulla scheda grafica. Le velocità ricavate in simulazione costituiscono un limite teorico massimo, poiché le schede di fascia inferiore dispongono di una larghezza di banda inferiore rispetto alla scheda ammiraglia.
| Memoria GPU | Testo (LLM) | Grafica | Video e musica |
|---|---|---|---|
| 8 GB (RTX 4060, 3070) | Gemma 4 E4B; Gemma 4 12B a 48 tok/s (simulazione) | FLUX 3 Klein al limite (picco 7,5 GB) | Insufficiente per modelli video e audio pesanti |
| 12 GB (RTX 3060, 4070) | Gemma 4 12B completo; GPT-OSS 20B a 165 tok/s (sim.) | FLUX 3 Klein agevole | ACE-Step al limite (picco da 10,7 GB) |
| 16 GB (RTX 4060 Ti 16G, 4080) | Qwen 3.8 27B a 33,4 tok/s (64 su 65 layer) | Z-Image Turbo | YuE2 al limite (13,3-16,3 GB) |
| 24 GB (RTX 3090, 4090, 5090) | Gemma 4 31B, Qwen 3.8 27B, Bielik 11B Q8 | Tutti i modelli, incluso Qwen Turbo | Kandinsky 6 Lite, Wan 2.2 5B, ACE-Step |
Se un modello non rientra interamente nella memoria grafica, non subisce un calo marginale: le prestazioni crollano poiché il calcolo viene ripartito sulla CPU di sistema. Ecco la mia misurazione del 3 ottobre 2026 su Qwen 3.8 27B:
Consultando le tabelle di riferimento pubbliche di llama.cpp verificate il 9 ottobre 2026 con il modello standard Llama 2 7B Q4_0, emerge chiaramente come la velocità sia strettamente vincolata alla larghezza di banda della memoria hardware piuttosto che alla sola potenza di calcolo lorda:
Apple Mac e calcolo su processore CPU
- Sistemi Apple Silicon: i processori Apple M condividono la memoria tra sistema operativo e scheda grafica. Con 16 GB unificati puoi eseguire Gemma 4 12B Q4 (file da circa 7 GB), mentre con 32 GB unificati puoi ospitare Gemma 4 31B QAT (17,65 GB) e Qwen 3.8 27B. Ollama, LM Studio e ComfyUI offrono supporto per macOS.
- Esecuzione solo su CPU: adatta per modelli di testo compatti o per il motore vocale Piper. Quando ho delegato anche solo 18 dei 66 layer di Qwen alla CPU, la velocità sulla mia configurazione è scesa da 46 a 8,4 tok/s.
- Unità disco: data la mole dei checkpoint, salva i modelli su memorie SSD NVMe veloci. Durante le mie prove su un disco esterno USB da circa 44 MB/s, il tempo di caricamento iniziale richiedeva diversi minuti.
Strumenti per eseguire l’AI sul tuo PC
Tutti i programmi principali per l’esecuzione in locale sono gratuiti e open source.
Interfaccia intuitiva a finestre con catalogo per scaricare ed eseguire LLM stimando la VRAM.
Gestore per modelli linguistici da terminale che funge da server API locale per altri applicativi.
Interfaccia web privata stile ChatGPT per interagire con i modelli di Ollama e organizzare documenti.
Ambiente a nodi modulare per generare immagini, clip video e musica con pieno controllo dei flussi.
Browser applicativo per installare ed eseguire strumenti AI su Windows tramite script pronti con un clic.
Applicazione essenziale con interfaccia desktop per scaricare ed eseguire modelli di testo in locale.
Oltre alle interfacce grafiche, il pilastro operativo su schede NVIDIA è rappresentato da llama.cpp con supporto CUDA: nei miei confronti tecnici la compilazione basata su librerie Vulkan è risultata tra 1,9 e 2,6 volte più lenta. Per la conversione vocale puoi impiegare direttamente i binari di Whisper.
Licenze: comprendere i vincoli commerciali e territoriali
La dicitura “open weights” non equivale a una licenza senza vincoli d’uso. Nel panorama dei modelli scaricabili esistono requisiti aziendali e divieti geografici stringenti:
| Modello | Licenza | Uso commerciale |
|---|---|---|
| Gemma 4, Qwen 3.8, Bielik, GPT-OSS | Apache 2.0 | Consentito |
| Z-Image Turbo, Wan 2.2 | Apache 2.0 | Consentito |
| Kandinsky 6.0, ACE-Step 1.5, Whisper | MIT | Consentito |
| FLUX 3 Image Klein | FLUX Kommunity | Consentito (fatturato <5M USD) |
| LTX-2 (Lightricks) | LTX-2 Community | Consentito (fatturato <10M USD) |
| Qwen-Image 2.1 e 2.1 Turbo | Qwen Research | Non consentito (solo ricerca) |
| YuE2 | CC BY-NC 4.0 | Non consentito |
| MiniMax H3, HunyuanVideo | Esclusione Unione Europea | Vietato l’uso in UE |
Fai particolare attenzione a modelli come MiniMax H3 e HunyuanVideo: le relative licenze escludono espressamente gli utenti che operano all’interno dell’Unione Europea, rendendone illecito l’utilizzo sul nostro territorio. Evita inoltre i modelli alterati e distribuiti senza documentazione ufficiale sui portali comunitari.
Conviene davvero usare l’AI in locale?
L’elaborazione locale comporta un costo energetico diretto: durante i miei test, l’elettricità consumata per 13 task con Gemma 4 12B è stata minima, così come il costo per renderizzare un’immagine con Z-Image Turbo. Tuttavia, l’ammortamento economico di una GPU come la RTX 4090 richiede centinaia di ore di calcolo intenso rispetto all’uso occasionale delle API a consumo, come spiego nell’analisi su modello AI locale o API e costi reali. I vantaggi determinanti dell’AI locale risiedono nella totale riservatezza (nessun dato o documento aziendale esce dal tuo computer), nell’assenza di limitazioni di utilizzo o filtri di rete e nella possibilità di lavorare integralmente offline.
Le guide dettagliate di Nitido
- Open WebUI + Ollama: come configurare un’interfaccia web privata e gestire documenti e chat in locale.
- Ollama vs LM Studio: confronto pratico e misurazioni di velocità tra le due piattaforme per LLM.
- GGUF e quantizzazione: test di laboratorio tra Q4_K_M, Q6_K e Q8_0 su memoria e precisione.
- ACE-Step 1.5: generatore musicale locale con voce testato su RTX 4090 con licenza MIT.
- Pinokio: installatore con un clic per le principali applicazioni di intelligenza artificiale su Windows.
- Influencer AI in locale: guida alla resa grafica fotorealistica su 5 modelli d’immagine senza effetto plastica.
- Video di influencer AI in locale: test di generazione su 15 clip fluide con Kandinsky 6 e Wan 2.2.
- LTX-Video in locale: generazione video open weights su GPU domestica con tempi e requisiti misurati.
Domande frequenti
Che cos’è l’AI locale?
Si tratta di un modello di intelligenza artificiale che viene eseguito direttamente sull’hardware del tuo computer invece che sui server di un fornitore esterno. Scarichi i pesi del modello sul disco ed esegui i calcoli tramite un software locale come Ollama o ComfyUI. Una volta completato il download, l’intero sistema funziona senza connessione internet.
Quale LLM locale offre i risultati migliori?
Su sistemi dotati di 24 GB di VRAM, Gemma 4 31B offre prestazioni eccellenti (9,5/10 nei miei test e 42 tok/s). Per schede con 8-12 GB di memoria la scelta di riferimento è Gemma 4 12B, che ha fatto registrare 72,3 punti nel test di scrittura comparativo, collocandosi a ridosso di Qwen 3.8 27B.
Quanta VRAM serve per fare AI sul PC?
Per i modelli linguistici di testo bastano 8 GB per modelli compatti come Gemma 4 E4B o versioni quantizzate di Gemma 4 12B, anche se 12 GB garantiscono molta più stabilità. Per generare immagini FLUX 3 Klein richiede 7,5 GB, mentre Qwen Turbo ne occupa 17-19 GB. Per la creazione di video e tracce audio complete servono realisticamente tra 16 e 24 GB.
Quale scheda video conviene acquistare per l’AI locale?
Il parametro più rilevante è la quantità di VRAM, seguito dalla sua larghezza di banda complessiva. Le schede NVIDIA semplificano il setup grazie al supporto nativo delle librerie CUDA nei vari applicativi. Dai test su llama.cpp la RTX 4090 risulta la più performante, mentre la RTX 3090 da 24 GB è risultata solo il 14% più lenta.
I modelli AI locali funzionano senza connessione internet?
Sì. Programmi come LM Studio, Ollama, ComfyUI, llama.cpp e Whisper operano interamente offline una volta completato il download dei componenti. Nessun dato, file, prompt o immagine generata viene inviato a server esterni.
Posso usare questi strumenti su Apple Mac?
Sì, software come Ollama, LM Studio e ComfyUI offrono versioni native compatibili con macOS. Secondo le misurazioni di llama.cpp, un modello 7B genera circa 24 tok/s su processore M4, circa 51 tok/s su M4 Pro e circa 83 tok/s su M4 Max sfruttando la memoria unificata.
È possibile eseguire l’AI solo con il processore CPU?
I modelli linguistici leggeri e i motori di sintesi vocale come Piper possono funzionare sulla sola CPU di sistema. Tuttavia, la generazione di immagini e soprattutto di video senza una GPU dedicata risulta nella pratica quotidiana eccessivamente lenta.
I software e i modelli locali sono gratuiti?
Tutti i programmi e i modelli open weights trattati in questa guida sono gratuiti da scaricare ed eseguire. Gli unici costi diretti riguardano l’hardware e il consumo elettrico della postazione, oltre al rispetto dei limiti d’uso commerciale previsti dalle rispettive licenze.
Fonti
- Rilevazioni e benchmark personali eseguiti su postazione con scheda NVIDIA RTX 4090 24 GB, Intel Core i9-14900KF, 64 GB RAM, Windows 11 (settembre e ottobre 2026).
- llama.cpp benchmarks on NVIDIA GPUs (discussione ufficiale GitHub #15013)
- llama.cpp benchmarks on Apple Silicon (discussione ufficiale GitHub #4167)
- Documentazione e licenza di FLUX 3 Image Klein su Hugging Face
- Repository ufficiale Kandinsky 6.0 Lite su Hugging Face
- Scheda tecnica del modello ACE-Step 1.5 su Hugging Face
- Artificial Analysis: benchmark indipendenti Speech-to-Text
- Metodo di test: Laboratorio Nitido
Verificato il 17 ottobre 2026.
More on this from NITIDO
magazine·Modello AI locale o API: costi reali con RTX 4090 e confrontoQuanto costa davvero un modello AI locale? Test con RTX 4090: consumo elettrico misurato vs API cloud. Gemma 4 12B contro GPT-6 Luna e Claude.