AI in locale: i modelli girano su una macchina tua e i documenti non lasciano l’azienda

Il giorno in cui «mettilo su ChatGPT» diventa un problema

Il bisogno nasce quasi sempre da un vincolo, non da una moda. Un cliente grande manda una clausola di riservatezza che vieta di caricare i suoi disegni su servizi esterni. Uno studio legale o un notaio ha il segreto professionale e sa che un fascicolo incollato in una chat online è un fascicolo uscito dallo studio. Un ufficio tecnico ha brevetti in corso di deposito. Oppure il titolare ha deciso che i dati non vanno in nessun cloud, punto.

Nel frattempo le persone hanno già visto cosa fa l’AI sui documenti e vorrebbero usarla: cercare nei fascicoli senza aprire trenta PDF, riassumere un contratto, ritrovare la procedura giusta in un manuale di duecento pagine. L’estrazione di informazioni da documenti è l’uso più diffuso dell’AI tra le imprese italiane che la adottano, il 70,8% secondo l’Istat («Imprese e ICT 2025»). Il divieto blocca tutto, e spesso qualcuno finisce per usare il servizio esterno di nascosto: la situazione peggiore.

L’AI locale è la terza via: i modelli girano su una macchina tua, dentro la tua rete, e i documenti non escono. Su cosa comporta la scelta tra cloud e locale ho scritto una guida a parte: /guide/ai-locale-o-cloud-quando-i-dati-non-devono-uscire/.

Cosa ti lascio installato e funzionante

Alla consegna hai una macchina in azienda (un Mac con molta memoria o un server con scheda grafica) su cui girano uno o più modelli open, scelti in base ai tuoi documenti e alla tua lingua di lavoro. Sopra i modelli c’è un assistente che indicizza le cartelle che gli indichi e risponde alle domande citando il file e il punto da cui ha preso l’informazione, così chi legge può controllare.

Insieme all’assistente consegno tre documenti: la scheda della macchina (cosa c’è sopra, come si riavvia, come si aggiornano i modelli e si aggiungono cartelle), le regole d’uso per le persone (cosa si può chiedere, cosa non va chiesto, chi controlla le risposte prima di usarle) e il rapporto del test di qualità, di cui parlo tra poco.

Lo stesso assistente esiste in versione cloud, quando i dati lo permettono: lo descrivo in /chat-documenti-contratti-bandi-normative-verona/. Qui cambia il motore, non il modo di lavorare.

Il test di qualità: ti dico dove il locale basta e dove no

È la parte del lavoro a cui tengo di più, perché un modello locale non è un modello cloud. Prima di consegnare, preparo con te venti-trenta domande reali con la risposta giusta accanto e le faccio all’assistente. Il rapporto dice, domanda per domanda, dove ha risposto bene, a metà o male.

Di solito i modelli locali vanno bene su ricerca nei documenti, riassunti e risposte su cose scritte nero su bianco; vanno peggio su ragionamenti lunghi, confronti tra molti file e lingue diverse da italiano e inglese. Se sul tuo caso la qualità non basta, te lo scrivo e ragioniamo su un sistema misto, o sul fermarci: preferisco un lavoro in meno a un assistente che nessuno usa.

Incluso, escluso, e cosa resta a te

Incluso: il dimensionamento della macchina con una scheda di configurazioni e prezzi indicativi; l’installazione e la configurazione dei modelli (via Ollama o strumenti simili); l’assistente sui documenti con l’indicizzazione delle cartelle scelte; le regole d’uso scritte; il test di qualità con rapporto; una sessione di due ore con le persone che lo useranno.

Escluso: l’hardware, che compri tu da chi preferisci (in genere tra 1.500 e 5.000 €, stima indicativa e non un prezzo); la rete e la sicurezza informatica dell’azienda; la formazione estesa, che è un servizio a parte (/formazione-ai-studi-professionali/); le integrazioni con il gestionale, che si valutano come sviluppo aggiuntivo a 80 € l’ora o come pilota.

Cosa resta a te, sempre: il controllo delle risposte prima di usarle in un atto, in un preventivo o in una decisione; la responsabilità di ciò che entra nell’indice (se ci metti un fascicolo che non dovrebbe esserci, l’assistente lo leggerà); la sicurezza fisica e i backup della macchina. Per i professionisti c’è anche l’obbligo di informare i clienti sull’uso di sistemi AI nella prestazione, previsto dalla legge 132/2025 in vigore dal 10 ottobre 2025: le regole d’uso che scrivo includono una nota da adattare, ma il testo definitivo lo valuti tu.

Cosa serve per partire

Una cartella di documenti veri e rappresentativi, anche solo cinquanta file: fascicoli, contratti, disegni con le loro schede, procedure. Una persona di riferimento che sappia come si cerca oggi e quali domande fanno perdere più tempo. Un accesso alla rete aziendale e un posto per la macchina (una scrivania per un Mac; un armadio ventilato per un server).

Se non hai già un computer adatto, la prima consegna è la scheda di dimensionamento e il resto parte quando la macchina è in azienda. Se ce l’hai, parto subito.

Tempi, dipendenze, e dopo

Con la macchina in azienda, l’installazione e la prima indicizzazione richiedono in genere pochi giorni; il test di qualità e la messa a punto qualche settimana, perché servono i tuoi tempi per le verifiche. La dipendenza principale è la consegna dell’hardware, che non controllo.

Dopo la consegna non c’è nessun canone: i modelli open non hanno abbonamento e la macchina è tua. Se serve aggiornare, aggiungere cartelle o sistemare qualcosa, c’è l’assistenza a chiamata in blocchi di 10 ore a 750 € + IVA (/assistenza-a-chiamata-blocchi-ore/). Se non chiami, non paghi.

Il prezzo e il pilota, se prima vuoi provare

Il lavoro completo parte da 2.900 € + IVA, hardware escluso, con pagamento 50% alla partenza e 50% alla consegna. Il «da» dipende dal numero di cartelle da indicizzare, dal numero di utenti e dalla necessità o meno di un server invece di un Mac.

Se il vincolo sui dati è chiaro ma non sei sicuro che l’AI locale ti serva davvero, si può cominciare con il pilota a prezzo fisso da 890 €: un solo flusso, un criterio di successo scritto prima, e se dopo la messa a punto non è raggiunto il saldo non si paga.

Esempio dimostrativo: uno studio legale di sei persone

Esempio dimostrativo — Immagina uno studio legale di sei persone a Verona: tre avvocati, due praticanti, una segretaria. I fascicoli sono PDF in cartelle per cliente, alcuni con centinaia di pagine, e la domanda ricorrente è «dove avevamo già affrontato questa eccezione?». Caricare i fascicoli su un servizio esterno non è un’opzione, per il segreto professionale e per una clausola di un cliente istituzionale.

Si sceglie un Mac con 64 GB di memoria, che sta su una scrivania in studio. Installo due modelli open, uno più veloce per la ricerca e uno più capace per i riassunti, e l’assistente indicizza le cartelle dei fascicoli attivi. Il test di qualità su venticinque domande vere mostra che l’assistente trova il passaggio giusto e cita il file nella grande maggioranza dei casi, sbaglia quando la domanda richiede di collegare tre fascicoli diversi, e non va usato per scrivere atti. La ricerca che prima costava mezz’ora di apertura di PDF diventa una domanda e una verifica sul punto citato (esempio, non un caso reale).

Quando l’AI locale non conviene

Non conviene se i tuoi documenti possono uscire dall’azienda senza problemi: un modello cloud costa meno da mettere in piedi, è più capace e non richiede una macchina. In quel caso ti indirizzo all’assistente sui documenti in versione cloud, o alla pagina /ai-gdpr-dati-aziende-verona/ se il dubbio è di natura normativa più che tecnica.

Non conviene se hai meno di qualche decina di documenti: li cerchi prima a mano. Non conviene se l’uso principale è scrivere testi lunghi, tradurre in lingue poco comuni o ragionare su tabelle complesse: lì i modelli locali deludono. Non conviene se nessuno in azienda può prendersi cura di una macchina (riavviarla, aggiornarla, fare backup): senza una persona di riferimento, l’assistente muore in sei mesi.

In manifattura la situazione tipica è mista: i disegni e le distinte restano in locale, l’ufficio commerciale può usare il cloud per le email. Ne parlo nella pagina /ai-automazione-manifattura-verona/.

Come si parte

Scrivimi su WhatsApp o mandami un esempio via email a info@cangrandeai.it: due righe su che documenti hai, quante persone li usano, da dove nasce il vincolo (clausola, segreto professionale, scelta interna) e, se ce l’hai, modello e memoria del computer. Il primo confronto è gratuito e finisce con una risposta chiara: locale, cloud, misto, oppure «per ora no».