AI locale e privacy: come verificare che resti offline

Con l'AI locale, la privacy dipende dall'intero percorso dei dati: eseguire il modello su un PC o server aziendale non dimostra che documenti e conversazioni restino sempre lì. Per verificarlo bisogna controllare anche servizi collegati, rete, accessi e copie conservate.

La prova offline è utile, ma va interpretata correttamente: se una chat risponde senza internet, hai dimostrato che quella funzione può operare in quelle condizioni. Non hai certificato tutto il sistema né la sua conformità al GDPR. Questa guida propone controlli pratici per descrivere il perimetro reale, senza promettere una protezione automatica.

Qual è la differenza tra locale e offline?

Locale indica dove avviene l'elaborazione considerata. Offline indica che il flusso può essere eseguito senza collegamenti esterni necessari. Un servizio può essere locale su un server dell'ufficio e richiedere comunque una rete interna per raggiungerlo.

Un'applicazione desktop può invece chiamare un modello cloud. La documentazione cloud di Ollama mostra come lo stesso ecosistema possa offrire entrambi i percorsi: il nome del programma installato non basta a identificarli.

Definisci quindi il perimetro con parole precise: postazione singola, server aziendale, rete interna o infrastruttura gestita. Una descrizione utile indica quali componenti elaborano quali dati e quali collegamenti sono ammessi. La guida ai modelli AI locali completa la distinzione tra pesi scaricabili e servizi utilizzati via API.

Anche la posizione fisica e la responsabilità di gestione vanno tenute distinte. Un server nella sede aziendale può essere amministrato da un fornitore; un'infrastruttura remota può avere accessi e condizioni ben definiti. Nessuna di queste descrizioni permette da sola di dedurre chi può leggere i contenuti. Chiedi quali soggetti hanno accesso tecnico, in quali circostanze e con quali registrazioni. Questa informazione aiuta a valutare il servizio effettivo senza usare «locale» come sinonimo indistinto di assenza di terzi.

Quali dati entrano davvero nel sistema?

Oltre al testo digitato, considera file allegati, immagini, audio, cronologia e passaggi recuperati da un archivio. Alcune integrazioni possono aggiungere informazioni presenti in altri strumenti di lavoro.

Disegna un percorso semplice dalla domanda alla risposta e annota dove ogni elemento viene elaborato o conservato. Non limitarti al momento in cui il modello genera il testo: la trasformazione di una scansione in testo o la creazione degli embedding può avvenire altrove.

Per un RAG sui documenti aziendali, identifica separatamente estrazione, indice, ricerca e generazione. La lista deve poter essere letta anche dal responsabile del processo: se solo chi ha installato il sistema sa dove passano i dati, manca una parte della documentazione operativa.

Come verificare che il modello scelto sia locale?

Controlla il modello selezionato, il percorso del servizio e la configurazione dell'applicazione. Un indirizzo apparentemente vicino o un'interfaccia sul desktop non escludono che un componente inoltri richieste a un fornitore esterno.

Ollama documenta una modalità solo locale, comprese impostazioni per disattivare funzioni cloud e ricerca web. Nella FAQ ufficiale è indicata anche la variabile OLLAMA_NO_CLOUD=1; applica la procedura adatta all'installazione e verifica l'effetto dopo il riavvio.

La configurazione del runtime non governa automaticamente tutti gli strumenti che gli stanno intorno. Per esempio, un'interfaccia può avere un proprio connettore esterno o un assistente può richiamare altri servizi. Se stai scegliendo il programma, confronta Ollama e LM Studio anche sul flusso concreto che vuoi realizzare.

OCR ed embedding possono uscire dal perimetro?

Sì, se vengono affidati a un servizio esterno. Un generatore locale collegato a OCR o embedding remoti non rende locale tutta la pipeline. Occorre leggere la configurazione dei singoli componenti e verificare quali dati ricevono.

La documentazione offline di LM Studio descrive elaborazione documentale locale nel percorso dell'applicazione. Per un sistema personalizzato, non trasferire automaticamente quella proprietà a strumenti aggiunti in seguito.

Prepara una tabella con funzione, fornitore, percorso e dati trattati. Se un componente non è necessario al compito, valuta se eliminarlo dal flusso. Se è necessario ma esterno, descrivilo apertamente: una scelta consapevole richiede una mappa veritiera, non un'etichetta locale applicata all'insieme.

Che cosa preparare prima di scollegare internet?

Modelli, dipendenze e componenti devono essere disponibili. Una chat che funziona con un modello già caricato non prova che un documento nuovo possa essere elaborato dopo un riavvio.

La guida offline di Open WebUI richiama la preparazione delle cache e distingue le impostazioni applicative dall'isolamento di rete. Se manca un modello embedding o un componente per l'audio, il problema può apparire soltanto quando quella funzione viene utilizzata.

Definisci anche l'accesso previsto: una modalità di autenticazione che dipende da un servizio esterno può interrompere il lavoro quando la connessione manca. Il test deve mantenere raggiungibili i servizi locali necessari, senza confondere assenza di internet e interruzione della rete interna usata dal progetto.

Come eseguire una prova offline rappresentativa?

Usa materiale sintetico, privo di dati riservati, che contenga un'informazione riconoscibile e assente dalla conoscenza generale del modello. La domanda deve richiedere proprio quel contenuto, altrimenti una risposta corretta potrebbe non dimostrare che il file è stato letto.

1. Registra applicazioni, modelli, versioni e impostazioni della prova.
2. Prepara i componenti necessari e interrompi l'accesso esterno nel perimetro autorizzato.
3. Riavvia il flusso e verifica l'accesso con la modalità prevista.
4. Invia una domanda ordinaria e poi carica un nuovo documento sintetico.
5. Controlla la risposta e la fonte, includendo OCR o audio soltanto se servono al lavoro.
6. Verifica separatamente configurazione e osservazioni della rete.

Ripeti il percorso quando aggiungi un'integrazione significativa. Conserva l'esito come verifica di quella configurazione: non estenderlo a funzioni che non hai provato.

Se il documento era già stato elaborato mentre la rete era disponibile, il risultato potrebbe dipendere da dati preparati in precedenza. Per questo la prova include un file nuovo e un riavvio. Conserva inoltre una domanda alla quale il file non risponde: serve a distinguere la consultazione dei contenuti dalla produzione di una risposta plausibile. Registra eventuali funzioni mancanti senza aggirare il blocco di rete solo per completare la demo. Il limite emerso è un'informazione progettuale da risolvere e verificare prima dell'uso ordinario.

Perché il test del Wi-Fi spento non dimostra tutto?

Può dimostrare che una funzione è disponibile senza internet, ma non prova l'assenza di collegamenti in altre condizioni. Un componente potrebbe contattare servizi esterni durante aggiornamenti, avvio, strumenti opzionali o successiva riconnessione.

Non significa che invii necessariamente i contenuti: una connessione non è da sola prova di esfiltrazione, così come una risposta offline non è prova di isolamento completo. Occorre interpretare le osservazioni insieme alla documentazione e alla configurazione.

Open WebUI precisa che le variabili offline non bloccano tutte le connessioni esterne: eventuali API, strumenti o servizi configurati possono restare utilizzabili se la rete li consente. La fonte ufficiale distingue quindi prova del flusso e controlli di rete. Il test va condotto da chi amministra l'ambiente, preservando i servizi aziendali necessari.

Quali punti controllare oltre alla generazione?

Non serve registrare indiscriminatamente tutti i contenuti per ottenere visibilità. Scegli evidenze proporzionate al controllo, con accessi limitati. Il sistema di verifica non dovrebbe creare un archivio aggiuntivo di documenti riservati senza necessità.

Come proteggere un servizio usato da più persone?

Un modello raggiungibile da una sola postazione e un server condiviso sono situazioni diverse. Nel secondo caso occorrono identificazione degli utenti, autorizzazioni e separazione delle risorse.

La FAQ Ollama documenta l'ascolto locale predefinito e le possibilità di esposizione in rete. Non trasformare una configurazione personale in un servizio raggiungibile dall'ufficio senza decidere chi può accedere e come viene protetto il collegamento.

Per le applicazioni che gestiscono raccolte documentali, verifica anche i permessi descritti da Open WebUI o dalla piattaforma utilizzata. La frase «non mostrare file riservati» nel prompt non sostituisce i controlli del sistema. Prova ruoli diversi e controlla citazioni, anteprime e nomi dei documenti, oltre al testo finale.

Uno studio professionale: che cosa cambia con le copie?

Consideriamo uno scenario ipotetico: uno studio vuole preparare riassunti da documenti mantenuti su una postazione. Il modello e l'estrazione funzionano offline, ma la cartella della cronologia segue le normali politiche di sincronizzazione dello studio.

Questo non rende inutile il progetto locale. Mostra però che il luogo dell'inferenza e quello delle copie sono due decisioni differenti. Lo studio deve identificare quali file vengono conservati, dove finiscono e chi può recuperarli.

Prima dell'uso ordinario, una prova con documenti sintetici può verificare creazione, esportazione e gestione della cronologia. Per la conservazione serve una regola del processo, non soltanto il pulsante «nuova chat». I dati raccolti durante il test devono essere gestiti con gli stessi criteri del servizio che si intende adottare.

Lo studio può preparare un elenco delle copie attese: documento originale, testo estratto, indice, conversazione ed eventuale esportazione. Per ciascuna voce indica il responsabile e la procedura prevista quando non deve più essere disponibile. Non presumere che rimuovere l'allegato dall'interfaccia elimini automaticamente tutte le rappresentazioni derivate o le copie di sicurezza. Verificare il comportamento documentato dell'applicazione permette di definire una politica coerente con il trattamento, mantenendo separati il controllo dell'utente e le operazioni amministrative necessarie.

Un'azienda manifatturiera: che cosa cambia con gli strumenti?

In un secondo esempio ipotetico, un'azienda usa un assistente locale per consultare procedure e aggiunge la possibilità di cercare sul web. Il generatore può continuare a essere locale, mentre le ricerche introducono un percorso esterno.

La scelta deve essere esplicita: quali domande possono diventare query esterne, quali contenuti possono accompagnarle e chi autorizza eventuali azioni. Non basta affidarsi alla capacità del modello di riconoscere da solo ogni dato riservato.

Una separazione di funzioni può aiutare: consultazione interna con strumenti limitati e ricerca esterna per attività autorizzate. Il progetto va verificato sul percorso completo, comprese richieste che tentano di trascinare un documento interno verso uno strumento non previsto. La comodità dell'integrazione non elimina il bisogno di definire il confine.

Perché locale non significa conforme al GDPR?

Il GDPR riguarda il trattamento concreto dei dati personali. Il testo ufficiale su EUR-Lex disciplina, tra l'altro, principi e minimizzazione nell'articolo 5, protezione fin dalla progettazione nell'articolo 25 e sicurezza nell'articolo 32.

L'esecuzione locale può essere una scelta tecnica rilevante, ma non risponde da sola a finalità, base giuridica, informazioni agli interessati, accessi e conservazione. Se un fornitore tratta dati per conto dell'azienda, vanno inoltre valutati i ruoli e le condizioni applicabili, anche alla luce dell'articolo 28.

Non ricavare una certificazione dalla marca del modello o dalla licenza dei pesi. Per organizzare gli aspetti del trattamento trovi le guide su AI e GDPR e privacy aziendale, da applicare al contesto con i responsabili competenti.

Prima di introdurre nuovi documenti, distingui inoltre dati personali, informazioni commerciali riservate e materiali pubblici. Possono richiedere controlli diversi e non vanno confusi in un'unica etichetta. Il fatto che un file non contenga dati personali non lo rende automaticamente condivisibile; viceversa, conservare un dato personale in sede non elimina gli obblighi del trattamento. La mappa deve quindi collegare tipo di informazione, finalità e accessi consentiti, mantenendo leggibili le ragioni delle scelte tecniche.

Quale documentazione lasciare a chi userà il sistema?

Prepara una scheda breve con perimetro, funzioni autorizzate, dati ammessi, accessi e procedura di assistenza. Aggiungi le verifiche svolte e i limiti: per esempio, quali funzioni sono state provate offline e quali richiedono collegamenti esterni.

Conserva una procedura per gli aggiornamenti e ripeti i controlli pertinenti quando cambiano modelli, applicazioni o integrazioni. Una configurazione verificata oggi non descrive automaticamente quella che verrà modificata domani.

Per trasformare l'obiettivo «i documenti restano sotto il nostro controllo» in un flusso concreto, Giallo Studio progetta sistemi AI e software su misura: mappa dei dati, componenti necessari e prove ripetibili prima dell'uso con i materiali dell'azienda.