Liberi di usare l'AI
Risorse, materiali e una guida per continuare a sperimentare dopo il talk.
Modello, runtime di inferenza e applicazione sono tre scelte distinte. Qui trovi le slide, gli stessi documenti usati nella demo e un percorso per iniziare con Hermes Agent e Ollama, principalmente su Linux, anche su macOS.
I file della demo
Una cena d'autunno per quattro persone. Nel primo esercizio si traduce il menu mantenendo le informazioni sugli allergeni. Nel secondo, l'applicazione deve leggere tre documenti, confrontare le dosi con la dispensa e scrivere una lista della spesa con solo ciò che manca.
- menu.pdfIl menu della cena, con le informazioni sugli allergeni.
- ricette.docxLe ricette e le dosi per quattro persone.
- dispensa.csvLe scorte disponibili, comprese alcune cose che non servono al menu.
- esempio-traduzione.txtIl prompt completo, da copiare nella chat per una prima prova senza strumenti.
- esempio-analisi-file.txtIl compito sui file, con percorsi relativi da usare dalla cartella del pacchetto.
Lo ZIP contiene anche un README, la guida in Markdown e leggi-documenti.py, un aiuto per estrarre localmente il testo dei documenti se serve. Non contiene software, pesi dei modelli o risultati già compilati.
Non basta una risposta convincente. Controlla quali file sono stati letti, da dove vengono le quantità e se il file di output esiste davvero. Ripeti poi la prova cambiando una scorta: il risultato dovrebbe cambiare in modo coerente.
Da dove iniziare
- Scaricare Ollama: scegli il tuo sistema operativo.
- Catalogo dei modelli Ollama: cerca il modello, apri la scheda e scegli un tag adatto al tuo hardware e al compito.
- Documentazione Ollama: installazione, hardware, API e configurazione.
- Documentazione Hermes Agent e codice sorgente: installazione, modelli, strumenti e permessi.
Gli altri progetti citati
Non sono programmi da installare tutti insieme. Sono alternative da esplorare in base al compito, all'hardware e a come vuoi usare il sistema.
Applicazioni e agenti
- Hermes Agent, l'applicazione usata nella demo.
- Pi, un agente per lavorare sul codice.
- Codex CLI, un'altra applicazione per lavorare sul codice.
Runtime di inferenza
- Ollama, il runtime usato nella demo.
- llama.cpp.
- vLLM.
- DwarfStar / ds4. Controlla i modelli e l'hardware supportati dal progetto.
Pesi, licenze e dati
- Qwen3.5-9B su Hugging Face: la scheda dei pesi mostrata nel talk, non un requisito per ripetere la demo.
- Catalogo Hugging Face: schede, pesi, varianti e condizioni dei modelli. Verifica sempre il formato supportato dal runtime.
- Open Source AI Definition, OSI: per approfondire la distinzione tra pesi disponibili e open source AI.
- Olmo, Allen Institute for AI: il progetto citato nella parte del talk dedicata all'apertura oltre i pesi.
- FAQ Ollama: configurazione locale, rete e modelli cloud.
Locale non significa automaticamente isolato. I pesi possono essere eseguiti sul PC mentre altri strumenti contattano servizi esterni. La licenza dell'applicazione non decide quella del modello, né dove passano i tuoi dati. Prima di usare documenti personali, controlla l'intero percorso.