Open WebUI e Ollama su Windows: guida e test su RTX 4090

👁 113 letture

Open WebUI ti permette di avere una vera interfaccia stile ChatGPT in locale sul browser, elaborando ogni richiesta direttamente sul tuo PC grazie a Open WebUI Ollama senza inviare dati all’esterno. La piattaforma aggiunge cronologia completa delle chat, gestione dei documenti (RAG), selezione di molteplici modelli e supporto multiutente. Per una panoramica sulle opzioni disponibili consulta la guida a AI locale modelli testo, immagini e video.

Cos’e Open WebUI e perche usarlo

Open WebUI e un server locale dotato di interfaccia web. Si avvia sul computer e si apre nel browser all’indirizzo http://localhost:8080. L’interfaccia non esegue direttamente i calcoli matematici dell’inferenza, ma inoltra le richieste a un backend locale come Ollama o a qualsiasi API compatibile OpenAI. Rispetto all’uso di Ollama da riga di comando, offre diversi vantaggi:

• Cronologia completa, organizzazione in cartelle, ricerca interna ed esportazione delle conversazioni.
• Selezione rapida del modello e possibilita di confrontare due modelli in parallelo sulla stessa domanda.
• Caricamento file e creazione di basi di conoscenza per interrogare i propri documenti (RAG).
• Profili multipli con permessi dedicati, utile se la macchina e condivisa in una rete locale.

Installazione passo passo su Windows senza Docker

Per configurare Open WebUI su Windows 11 senza ricorrere a Docker, la soluzione piu pulita ed efficiente e utilizzare uv, il gestore di pacchetti Python sviluppato da Astral.

1. Installa Ollama e scarica un modello. Ho utilizzato Gemma 4 12B (formato Q4_0 QAT da 7,0 GB). Se cerchi un modello piu grande per hardware con 24 GB di VRAM, ho analizzato anche Gemma 4 31B in locale su RTX 4090.
2. Installa uv tramite terminale con il comando:

   winget install astral-sh.uv

3. Installa Open WebUI in un ambiente isolato con Python 3.11:

   uv tool install --python 3.11 open-webui

   Nei miei test, la prima installazione ha richiesto 59 secondi, mentre l’aggiornamento dalla 0.11.4 alla 0.12.3 con uv tool upgrade open-webui ha impiegato 1 minuto e 55 secondi.

4. Avvia il server in modalita monoutente senza schermata di login:

   $env:WEBUI_AUTH = "False"
   $env:DATA_DIR = "$HOME\open-webui-dane"
   open-webui serve --host 127.0.0.1 --port 8080

5. Se il terminale non riconosce il comando, digita uv tool update-shell e riavvia PowerShell.
6. Al primo avvio su cartella pulita il server e stato operativo in 81 secondi (31 secondi ai riavvii successivi).
7. Apri il browser su http://localhost:8080 per visualizzare i modelli di Ollama pronti all’uso.

Se desideri abilitare l’accesso con account per piu persone in rete locale, rimuovi WEBUI_AUTH = "False" e specifica --host 0.0.0.0. Per chi preferisce i container, il comando ufficiale Docker e:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data -e WEBUI_SECRET_KEY=twoj-klucz --name open-webui --restart always ghcr.io/open-webui/open-webui:main

ChatGPT in locale: il test con Gemma 4 12B su RTX 4090

Ho testato ChatGPT in locale chiedendo a Gemma 4 12B di comporre un’email per un cliente su una spedizione in ritardo (richiedendo scuse, nuova data e spedizione gratuita sul prossimo ordine). La macchina di test monta una RTX 4090 da 24 GB, CPU i9-14900KF, 64 GB di RAM, Windows 11 e Ollama 0.40.5. Gemma ha elaborato il contesto per 7 secondi prima di generare il testo completo.

La differenza piu rilevante riguarda i token di input: 5694 token su Open WebUI contro i soli 95 di Ollama pura. La versione 0.12 inietta nel prompt di sistema le istruzioni e le firme per gli strumenti interni (memoria, note, ricerca file e chat). Su schede grafiche con 24 GB di memoria l’impatto e marginale, ma su schede con 8 GB questo overhead di contesto puo causare problemi di allocazione. Questi tool possono comunque essere disattivati nei parametri del modello. Se valuti l’acquisto di hardware dedicato rispetto alle piattaforme cloud, ho approfondito l’argomento nell’articolo su costi reali tra AI locale e API.

Test RAG: interrogazione di un documento PDF

Open WebUI include un motore RAG (Retrieval-Augmented Generation) che suddivide i documenti caricati, calcola gli embedding vettoriali e allega i passaggi piu rilevanti al prompt della conversazione. Di base il sistema impiega il modello all-MiniLM-L6-v2. Per ottenere risultati ottimali con documenti multilingue, ho configurato bge-m3 da Ollama (1,2 GB):

1. Da terminale scarica il modello: ollama pull bge-m3.
2. In Open WebUI vai su Impostazioni profilo > Amministrazione > Documenti. Imposta il motore di embedding su Ollama, indica bge-m3:latest e salva le modifiche.
3. Reindicizza i documenti precedentemente caricati per applicare i nuovi vettori.

Ho caricato un PDF normativo da 607 KB ponendo 10 domande con risposte puntuali presenti nel testo. L’indicizzazione ha richiesto 6,6 secondi. Ecco il confronto dei risultati:

• Open WebUI 0.12.3 (bge-m3 + Gemma 4 12B): 8 risposte corrette su 10. Nei due casi mancati, il modello ha dichiarato esplicitamente di non trovare l’informazione nel testo.
• Script RAG personalizzato (frammentazione manuale per articoli): 9 risposte corrette su 10.
• Gemma 4 12B senza documento allegato: 5 risposte corrette su 10.

Il tempo di elaborazione per singola query si e attestato tra 12 e 39 secondi (la prima richiesta, comprensiva del caricamento dei pesi, ha richiesto 76 secondi). Il picco massimo di memoria grafica registrato durante l’esecuzione contemporanea di Gemma 4 12B e bge-m3 e stato di 10,8 GB di VRAM.

Script di avvio per PowerShell

Il seguente script PowerShell verifica la presenza di Ollama, installa uv, Open WebUI e bge-m3 se mancanti, imposta i parametri di sistema per la modalita locale e avvia il servizio. Nei test eseguiti il 17 ottobre 2026 su cartella vuota, il server e risultato pronto all’uso in 31 secondi.

# Script di avvio per Open WebUI con Ollama su Windows
param(
    [string]$Folder = "$HOME\open-webui-dane",
    [int]$Port = 8080,
    [switch]$BezPrzegladarki
)
$ErrorActionPreference = 'Stop'

function Test-Url($u) {
    try { Invoke-RestMethod -Uri $u -TimeoutSec 3 | Out-Null; return $true } catch { return $false }
}

if (-not (Get-Command ollama -ErrorAction SilentlyContinue)) {
    Write-Host 'Ollama non trovato. Installa con: winget install Ollama.Ollama' -ForegroundColor Red
    exit 1
}
if (-not (Test-Url 'http://127.0.0.1:11434/api/version')) {
    Write-Host 'Ollama non risponde. Avvia l applicazione e riprova.' -ForegroundColor Red
    exit 1
}

if (-not (Get-Command uv -ErrorAction SilentlyContinue)) {
    Write-Host 'Installazione uv tramite winget...'
    winget install --id astral-sh.uv -e
    $env:Path = [Environment]::GetEnvironmentVariable('Path', 'User') + ';' + [Environment]::GetEnvironmentVariable('Path', 'Machine')
}

$exe = Join-Path $HOME '.local\bin\open-webui.exe'
if (-not (Test-Path $exe)) {
    Write-Host 'Installazione Open WebUI (circa 1,8 GB)...'
    uv tool install --python 3.11 open-webui
}

$modele = @((Invoke-RestMethod -Uri 'http://127.0.0.1:11434/api/tags').models | ForEach-Object { $_.name })
if ($modele -notcontains 'bge-m3:latest') {
    Write-Host 'Download modello embedding bge-m3...'
    ollama pull bge-m3
}

New-Item -ItemType Directory -Force -Path $Folder | Out-Null
$env:DATA_DIR = $Folder
$env:WEBUI_AUTH = 'False'
$env:OLLAMA_BASE_URL = 'http://127.0.0.1:11434'
$env:ENABLE_OPENAI_API = 'False'
$env:RAG_EMBEDDING_ENGINE = 'ollama'
$env:RAG_EMBEDDING_MODEL = 'bge-m3:latest'
$env:ANONYMIZED_TELEMETRY = 'false'
$env:DO_NOT_TRACK = 'true'
$env:SCARF_NO_ANALYTICS = 'true'
$env:PYTHONIOENCODING = 'utf-8'

Write-Host "Avvio di Open WebUI su http://localhost:$Port..."
Start-Process -FilePath $exe -ArgumentList @('serve', '--host', '127.0.0.1', '--port', "$Port") -NoNewWindow

Confronto: Open WebUI vs LM Studio vs Jan

Se cerchi un’alternativa desktop senza configurazione web, il panorama delle applicazioni locali include anche altri strumenti ben noti.

• Open WebUI: la scelta ideale se desideri un ambiente simile a ChatGPT, con gestione avanzata dei documenti RAG e possibilita di condividere l’istanza con altri utenti nella rete locale.
• LM Studio: ottimo se preferisci un’applicazione desktop standalone dotata di motore integrato per cercare e scaricare modelli in formato GGUF.
• Jan: una soluzione desktop open source leggera, ideale per chi cerca semplicita senza passare dal terminale.

Problemi comuni e risoluzione

• Errore “Python 3.13 is not supported”: installa il pacchetto forzando la versione supportata tramite il comando uv tool install --python 3.11 open-webui.
• Elenco modelli vuoto: assicurati che Ollama sia in esecuzione (verificalo con ollama list) e controlla che l’indirizzo nella variabile OLLAMA_BASE_URL corrisponda alla porta attiva.
• Porta 8080 occupata: se un altro servizio impegna la porta predefinita, specifica una porta alternativa aggiungendo il parametro --port 8081 al comando di avvio.
• Velocita inferiore alla riga di comando: oltre ai token aggiuntivi iniettati per gli strumenti interni, l’interfaccia esegue task post-risposta (generazione del titolo chat, tag e prompt suggeriti). Puoi disattivare queste funzioni nelle impostazioni amministrative alla voce Interfaccia.

Domande frequenti

Fonti

• Repository GitHub di Open WebUI: note di rilascio
• Testo della licenza Open WebUI
• Documentazione ufficiale di Open WebUI: guida Quick Start
• Scheda del pacchetto open-webui su PyPI
• Test eseguiti su Windows 11 con RTX 4090, Ollama 0.40.5 e Open WebUI 0.12.3 il 17 ottobre 2026.

Verificato il 17 ottobre 2026.

// continua a leggereAI nella scuola e all’università: guida 2026 per studenti e docentiGuideCanva: cos’è, quanto costa e come iniziare - guida 2026GuideCustomer.io guida: utenti, eventi e prima automazioneGuide

Kinetyra