› basal-omni è un modello decisionale di Remek Kinas: non scrive testi, ma sceglie una risposta da un elenco e indica quanto è sicuro.
› Dal 19 ottobre le versioni più piccole si possono eseguire senza una scheda grafica da server, con Ollama, llama.cpp o su Mac.
› Ho provato la versione mini in formato GGUF sulla mia RTX 4090 e l’ho valutata con lo stesso insieme di richieste in polacco usato in precedenza per Jev e altri modelli decisionali.
› Qui trovi i passaggi che hanno funzionato, i requisiti hardware e i risultati.