Vai al contenuto
Giallo

Verificare le risposte dell'AI prima di usarle: una checklist di lavoro

Come controllare una risposta dell'AI prima di mandarla a un cliente: consigli pratici, checklist, errori da evitare e un metodo per la tua PMI.

Redazione: Giallo Studio

Pubblicato il

Aggiornato il

Tempo di lettura: 9 min

Una persona rilegge alla scrivania una risposta generata dall'AI prima di inviarla a un cliente

Per controllare una risposta dell'AI prima di inviarla a un cliente, trattala come una bozza e non come un documento finito. Ogni affermazione va verificata, cercando riscontro su fonti attendibili, e la decisione di inviare spetta sempre a una persona che ne risponde. È il metodo più semplice e, per una PMI, il più sicuro.

Verificare una risposta dell'AI significa confrontare ciò che lo strumento ha scritto con ciò che sai o puoi accertare altrove: fatti, nomi, date, numeri, citazioni e promesse. Non è sfiducia verso la tecnologia. Gli stessi fornitori avvertono che le risposte possono essere imprecise, come vedremo nelle fonti citate più avanti.

Questa guida è pensata per chi ha un'azienda o uno studio e usa l'AI per scrivere email, preventivi o risposte ai clienti. Trovi consigli pratici, una tabella di controllo, due esempi, gli errori più comuni e un modo per introdurre la regola in azienda senza rallentare il lavoro. Dove i materiali ufficiali non dicono abbastanza, lo segnaliamo: in quel caso la checklist è un'elaborazione della redazione e non una regola dei fornitori.

In sintesi

  • Una risposta dell'AI può sembrare sicura ed essere imprecisa: va trattata come una bozza da controllare.
  • Numeri, date, nomi e citazioni si verificano uno per uno, cercando riscontro su siti attendibili.
  • Le fonti che l'AI indica vanno controllate a loro volta, perché lo strumento può descrivere in modo errato il proprio funzionamento.
  • Le risposte non sono consigli medici, legali o finanziari: su questi temi serve un professionista.
  • Chi decide se inviare è una persona, e l'azienda stabilisce prima chi rilegge e che cosa.

Perché una risposta dell'AI può essere sbagliata anche se sembra sicura?

Il problema è che il tono di una risposta non dice nulla sulla sua correttezza. Google spiega che le app Gemini sono in continua evoluzione e talvolta possono produrre informazioni imprecise, offensive o inappropriate. Lo scrive nella pagina di aiuto dedicata alle risposte: Informazioni sulle risposte dalle app Gemini.

La stessa pagina usa il termine allucinazioni: Gemini può presentare come oggettive informazioni imprecise. Può anche rappresentare in modo errato come funziona, per esempio quando gli si chiede come è stato addestrato o come usa funzioni come le citazioni di fonti e il reperimento di informazioni aggiornate. Per un imprenditore la conseguenza è concreta: se chiedi allo strumento da dove ha preso un dato, la sua spiegazione non basta come prova. Per un approfondimento sul fenomeno puoi leggere il nostro articolo su che cosa sono le allucinazioni dell'AI e come ridurle.

C'è poi un secondo rischio, meno visibile. Secondo la guida di Google su come le app Gemini aiutano a proteggere gli utenti da contenuti dannosi e prompt injection, la prompt injection è un tentativo di provocare una risposta indesiderata o dannosa da parte di uno strumento di AI generativa. I malintenzionati possono farlo anche condividendo con te un contenuto dannoso, che poi inserisci nei prompt senza accorgertene. Se incolli nell'AI un'email o un documento ricevuto da un terzo, quel testo può influenzare la risposta.

Come si controlla una risposta dell'AI prima di inviarla a un cliente?

Qui sotto trovi i consigli in ordine di lavoro. Ognuno indica il perché, ricavato dai materiali ufficiali, e dove il materiale non arriva lo dichiariamo.

Tratta ogni risposta come una bozza

Il primo consiglio è un cambio di abitudine: la risposta dell'AI è un punto di partenza, non un testo da inoltrare. Google invita a verificare le risposte, in particolare quelle sulle persone, che possono essere imprecise o inappropriate, come indicato nella pagina di aiuto sulle risposte di Gemini. Se il cliente è nominato nel testo, il controllo sul nome e sui fatti che lo riguardano è il primo da fare.

Controlla numeri, date e nomi uno per uno

I materiali non indicano quali dati controllare per primi, quindi questa è una scelta della redazione. Il criterio che consigliamo è semplice: tutto ciò che il cliente potrebbe usare per decidere o per contestare si verifica sul documento originale. Importi, scadenze, riferimenti a contratti, nomi di persone e di aziende vanno confrontati con il gestionale, con il preventivo o con il contratto, non con la memoria di chi rilegge.

Cerca riscontro su siti attendibili

La Banca d'Italia, nella rubrica Economia per tutti, scrive che navigare su internet e cercare riscontro su siti attendibili è sicuramente un buon punto di partenza. Lo dice parlando di truffe che usano l'AI, nell'articolo Con l'intelligenza artificiale il lavoro dei truffatori si semplifica. Il principio vale anche per il lavoro: un'informazione che influisce su una decisione deve avere un riscontro fuori dalla chat, su un sito ufficiale o su un documento che possiedi.

Verifica le fonti che l'AI cita

Se la risposta contiene riferimenti, link o citazioni, aprili. Poiché Gemini può rappresentare in modo errato come usa le citazioni di fonti, come spiega la guida di Google, una fonte nominata dallo strumento non è per questo reale o pertinente. Controlla che l'indirizzo esista, che la pagina contenga davvero quanto affermato e che sia una fonte che anche il cliente riterrebbe affidabile. Esistono anche strumenti pensati per questo scopo, come descriviamo in come verificare le citazioni dei chatbot.

Non scambiare la risposta per una consulenza

Google chiede di non considerare le risposte delle app Gemini al pari di consigli medici, legali, finanziari o di altro tipo (fonte). Se un cliente ti chiede se può detrarre una spesa, se un contratto è valido o se una terapia è adatta, la risposta scritta dall'AI non va inoltrata come parere. Serve il professionista competente, che nel tuo caso potresti essere tu: allora la responsabilità è tua e il controllo deve essere ancora più attento.

Attenzione ai contenuti esterni incollati nel prompt

Quando l'AI lavora su una email o su un allegato ricevuto, il rischio di prompt injection descritto da Google riguarda proprio i contenuti condivisi da terzi (spiegazione ufficiale). Se la risposta contiene richieste strane, link inattesi o istruzioni che non c'entrano con la domanda, fermati e non inviarla. Il tema della protezione dei dati è trattato anche in AI e sicurezza dei dati: rischi concreti e come gestirli.

Fai attenzione alla memoria dello strumento

Alcuni assistenti ricordano il contesto. Il Centro assistenza di Anthropic spiega che Claude può ricordare il contesto dalle tue chat e portarlo in nuove conversazioni e attività Cowork, e che salva la memoria come un insieme di argomenti individuali mentre chatti. La fonte è la guida Usa la ricerca chat e la memoria di Claude. Il collegamento al nostro tema è un'inferenza: se la risposta nasce da un contesto precedente, controlla che non contenga dettagli di un altro cliente o di una pratica vecchia. Ne parliamo più in generale in che cosa succede ai dati aziendali quando li scrivi in un'AI.

Fai rileggere a una seconda persona le risposte importanti

Nessun materiale ufficiale che abbiamo letto indica quando serve una seconda lettura. Per questo è una scelta dell'azienda, da fare prima dell'invio e non dopo un errore. Una regola ragionevole è far rileggere tutto ciò che contiene impegni economici, scadenze, aspetti legali o fiscali, o che andrà a molti clienti insieme.

Segnala l'errore allo strumento

Quando trovi un'imprecisione, non limitarti a correggerla nel testo. Google indica di fare clic sul pulsante Non mi piace e di fornire il feedback; lo scrive la guida alle risposte e lo ribadisce quella sulla sicurezza per le risposte imprecise o ritenute non sicure. Non è un obbligo, ma lascia traccia di ciò che non ha funzionato.

Che cosa controllare, in breve, e dove trovare il riscontro?

La tabella riassume i controlli principali. La colonna delle fonti rimanda ai materiali ufficiali; dove il materiale non dà indicazioni, la riga è un'indicazione di metodo della redazione.

Cosa controllare Perché Fonte
Fatti e affermazioni sulle persone Le risposte possono essere imprecise o inappropriate, quindi vanno verificate Guida alle risposte di Gemini
Fonti e citazioni indicate dall'AI Lo strumento può rappresentare in modo errato come usa le citazioni Guida alle risposte di Gemini
Riscontro esterno dei dati importanti Cercare riscontro su siti attendibili è un buon punto di partenza Banca d'Italia, Economia per tutti
Contenuti di terzi dati in input Possono contenere prompt injection Guida alla sicurezza di Gemini
Contesto portato da chat precedenti Alcuni strumenti ricordano il contesto tra conversazioni Centro assistenza Anthropic
Numeri, date, importi Nessun materiale indica un ordine: criterio della redazione, da verificare sul documento originale Metodo della redazione

Qual è una checklist rapida prima dell'invio?

Puoi stamparla o incollarla nel modello di risposta del tuo team. È una sintesi delle verifiche descritte sopra.

  • Ho letto tutta la risposta, non solo l'inizio.
  • Ho confrontato nomi, importi e date con il documento originale.
  • Ho aperto ogni link o fonte citata e ho verificato che dica quanto affermato.
  • Ho cercato riscontro su un sito attendibile per i fatti che il cliente userà per decidere.
  • Il testo non presenta pareri legali, medici o finanziari come certi.
  • Non ci sono istruzioni o link strani, soprattutto se ho incollato un messaggio ricevuto.
  • Per le risposte importanti, una seconda persona ha dato il suo ok.

Come si applica nella pratica? Due esempi

I due esempi seguenti sono ipotetici e servono a mostrare il metodo. Non descrivono clienti reali.

Esempio: uno studio di commercialisti. Un professionista usa l'AI per preparare la bozza di risposta a un cliente che chiede se può dedurre una spesa. La bozza è fluida e cita una norma. Il professionista non la invia: apre la norma citata, controlla che esista e che dica ciò che la bozza sostiene, e poi adatta il testo al caso del cliente. Il parere resta suo, perché le risposte dell'AI non equivalgono a un consiglio professionale, come indicano le indicazioni di Google. Per chi lavora in questo ambito può essere utile anche il nostro articolo sull'AI per la contabilità.

Esempio: un negozio con vendita online. Una titolare usa l'AI per rispondere ai messaggi sui resi. La bozza indica un termine e una procedura. Prima di inviarla confronta il testo con le condizioni di reso scritte sul proprio sito e con l'ordine del cliente nel gestionale. Corregge due punti che non coincidevano e lascia la procedura così com'è. Se la gestione dei reclami diventa frequente, può essere utile guardare come impostare il flusso in reclami clienti con AI: priorità, fatti e responsabilità.

Quali errori evitare?

Quattro errori ricorrono più degli altri.

  • Fidarsi del tono. Una risposta scritta bene sembra corretta. Ma Gemini può presentare come oggettive informazioni imprecise, secondo Google. Chi rilegge deve cercare i fatti, non giudicare lo stile.
  • Chiedere all'AI di verificare se stessa. Se lo strumento può descrivere in modo errato il proprio funzionamento, la sua conferma non vale come controllo. Il riscontro va cercato fuori, su fonti attendibili.
  • Incollare messaggi di terzi senza guardare cosa contengono. Un contenuto condiviso da un malintenzionato può influenzare la risposta, come spiega la guida sulla prompt injection. Se la risposta cambia tono o chiede azioni strane, è un segnale.
  • Lasciare la regola implicita. Se ognuno decide da solo quando far rileggere, prima o poi una risposta importante parte senza controllo. Va scritto chi controlla cosa. Un modello di riferimento è la policy aziendale sull'uso dell'AI.

Attenzione ai truffatori. Le autorità ricordano di mantenere la calma, fermarsi un attimo e pensare prima di agire, di verificare la provenienza di mail, messaggi e chiamate e di non condividere mai credenziali e PIN. Lo ricorda la Banca d'Italia. Vale anche per i messaggi che l'AI ti aiuta a scrivere o a leggere.

Come introdurre la regola in azienda senza rallentare il lavoro?

L'obiettivo non è controllare tutto con la stessa intensità, ma decidere in anticipo che cosa merita quale livello di attenzione. I materiali ufficiali non danno una procedura completa, quindi questo è il metodo che proponiamo.

  1. Elenca i tipi di risposta che l'AI prepara oggi: email ai clienti, preventivi, risposte sui resi, testi per il sito.
  2. Dividi le risposte in semplici e delicate. Sono delicate quelle con impegni economici, scadenze, temi legali o fiscali, o dati personali.
  3. Per le semplici, stabilisci che chi invia controlla fatti, nomi e link con la checklist.
  4. Per le delicate, aggiungi una seconda lettura da parte di una persona competente prima dell'invio.
  5. Scrivi la regola in una pagina e mettila dove il team lavora, insieme ai modelli di risposta.
  6. Quando un errore sfugge, segnalalo allo strumento e aggiorna la checklist con quello che hai imparato.

Se le risposte nascono da documenti dell'azienda, conviene anche migliorare la qualità di partenza: scegliere bene i documenti da cui lo strumento attinge riduce gli errori a monte, come spieghiamo in scegliere le fonti prima della risposta nel RAG. Se ti serve capire meglio il meccanismo, c'è la guida su che cos'è il RAG e perché migliora le risposte. E per chi usa l'AI soprattutto per la posta, è utile leggere come rispondere alle email aziendali con l'AI.

Una regola in più: attenzione al codice generato

Se il tuo team usa l'AI anche per il codice, Google precisa che sei responsabile dell'uso del codice generato dalle app Gemini, che potrebbe essere soggetto a una licenza open source (fonte). Anche qui vale la regola: il risultato è una bozza, e chi lo mette in produzione ne risponde.

Da dove cominciare?

Non serve cambiare strumenti. Serve scegliere una categoria di risposte, per esempio le email ai clienti, e applicare la checklist per un periodo di prova. Se vuoi un confronto su dove inserire controlli e responsabilità nei tuoi processi, puoi parlarne con noi nella pagina di consulenza AI per le aziende.

Metodo e fonti delle guide di Giallo Studio

Vuoi applicarlo alla tua azienda?In 30 minuti, gratis: il processo da automatizzare per primo e il ritorno stimato, per iscritto.

Prenota l’audit gratuito

Come lo applichiamo in azienda

Risorse correlate

Servizi di consulenza AI e automazione dei processi

FAQ

Posso inviare a un cliente una risposta scritta dall'AI senza modificarla?

È sconsigliato farlo senza controllo. Google avverte che le risposte delle app Gemini possono essere imprecise e vanno verificate. Prima dell'invio, una persona deve controllare fatti, nomi e riferimenti.

Che cosa sono le allucinazioni dell'AI?

Sono casi in cui lo strumento presenta come oggettive informazioni imprecise. Google lo scrive esplicitamente nella guida alle risposte di Gemini. Per questo ogni dato importante va confrontato con una fonte attendibile.

Posso chiedere all'AI di indicare le fonti e fidarmi?

No, le fonti indicate vanno aperte e controllate. Secondo Google, Gemini può rappresentare in modo errato come funzionano le citazioni di fonti. Verifica che il link esista e che la pagina dica davvero quello che la risposta afferma.

L'AI può dare un parere legale o fiscale a un mio cliente?

Le risposte non vanno considerate consigli medici, legali, finanziari o di altro tipo. Se il cliente chiede un parere, serve un professionista competente. L'AI può aiutare con la bozza, ma non sostituisce il parere.

Che cos'è la prompt injection e perché devo preoccuparmene?

È un tentativo di provocare una risposta indesiderata o dannosa da parte di uno strumento di AI generativa. Può avvenire anche tramite contenuti condivisi con te che poi inserisci nei prompt. Se incolli messaggi di terzi, controlla con attenzione la risposta.

Quando serve una seconda persona che rilegga?

I materiali ufficiali non lo stabiliscono, quindi lo decide l'azienda. Una scelta prudente è la seconda lettura per le risposte con impegni economici, scadenze, temi legali o fiscali. Meglio scrivere la regola prima di un errore.

Applichiamolo

Trasformiamo la guida in un primo flusso live.

Raccontaci quale processo vuoi alleggerire: valutiamo fattibilità, ritorno e primo step operativo.