Vai al contenuto
Giallo

Deepfake e clonazione della voce: come una PMI riconosce la truffa

Voce clonata e video falsi creati con l'AI: i segnali per accorgersene, gli errori che una PMI commette e la procedura di verifica da adottare.

Redazione: Giallo Studio

Pubblicato il

Aggiornato il

Tempo di lettura: 9 min

Imprenditrice in ufficio che ascolta un messaggio vocale sospetto sullo smartphone e controlla prima di agire

Una PMI si accorge di una truffa con voce o video falsi soprattutto in due modi: notando i piccoli difetti tecnici del contenuto e, ancora prima, notando che la richiesta ha la forma classica della truffa, cioè urgente, insolita e legata a denaro o dati. Gli occhi e le orecchie da soli non bastano: per questo la difesa più solida è una verifica fatta con un canale diverso da quello da cui è arrivata la richiesta.

Un deepfake, secondo la Banca d'Italia, è un'immagine, un audio o un video manipolato o generato con l'IA che riproduce persone, oggetti, luoghi, entità o eventi esistenti con tale somiglianza da apparire autentico. La clonazione della voce ne è la variante più insidiosa per un'azienda, perché per ottenerla basta qualche secondo di audio della voce originale, magari tratta da un video condiviso sui social, come ricorda la stessa Banca d'Italia.

In questa guida, costruita solo su materiali di Banca d'Italia, Polizia Postale e ACN, vediamo i segnali da cercare, i cinque errori che espongono di più una piccola impresa e una procedura semplice da adottare. Non troverai statistiche: i materiali consultati non riportano cifre sulle truffe con voce o video falsi nelle PMI, e preferiamo non inventarne.

In sintesi

  • Un deepfake è un audio, un'immagine o un video generato o manipolato con l'IA che sembra autentico; per clonare una voce bastano pochi secondi di registrazione.
  • In alcuni casi non possiamo fidarci né dei nostri occhi né delle nostre orecchie, quindi serve una verifica esterna al messaggio ricevuto.
  • Mani, ombre, labbra non sincronizzate, voce monotona e assenza di respiri sono segnali utili, ma non sono una prova definitiva.
  • Davanti a una richiesta di denaro, credenziali o dati non si agisce subito: ci si ferma e si controlla con una fonte affidabile.
  • Se il danno è avvenuto, si segnala subito alla banca; il rimborso dipende dal caso concreto e dalla diligenza tenuta.

Come può una PMI accorgersi di una truffa con voce o video falsi?

Il punto di partenza è accettare un fatto scomodo. La Banca d'Italia osserva che sui social e altrove online possiamo incappare in foto, audio e video di persone reali che paiono autentici ma non lo sono. Dunque, in alcuni casi, non ci si può fidare né dei propri occhi né delle proprie orecchie, che si tratti di un messaggio vocale o di un video.

Per una piccola impresa questo significa spostare l'attenzione dal «suona come il titolare» al «che cosa mi sta chiedendo, e perché ora». Il rischio concreto, nella lettura che ne diamo, è che qualcuno imiti con la voce o con un video il titolare o un superiore e chieda pagamenti o dati in modo urgente. Il segnale più affidabile non è quindi la qualità dell'audio, ma lo schema della richiesta.

La Polizia Postale ricorda che i cybercriminali usano tecniche di intelligenza artificiale per riprodurre in modo estremamente realistico volti, voci e movimenti, attribuendo a persone pubbliche dichiarazioni mai fatte, come si legge nella pagina sulle false proposte di investimento. Lo stesso strumento che imita un personaggio noto può imitare chi firma i bonifici della tua azienda.

Quali segnali tecnici si possono notare in un deepfake?

La Polizia Postale, nella guida Come riconoscere un deepfake, spiega che nella realizzazione di un deepfake maggiore cura è dedicata al volto, mentre risultano trascurati la postura del corpo, le luci e le ombre. Gli aspetti più difficili da creare artificialmente sono il movimento degli occhi, il battito delle ciglia, la definizione dei denti e la sincronizzazione perfetta di voce e movimenti delle labbra.

La Banca d'Italia aggiunge le anomalie nelle mani e nelle ombre e, per l'audio, aspetti anomali della voce come la monotonia o l'assenza di respiri e piccole esitazioni. La tabella raccoglie i segnali per tipo di contenuto.

Contenuto Che cosa osservare Fonte
Video Mani e ombre anomale, postura e luci trascurate, labbra non sincronizzate con la voce Banca d'Italia
Video Movimento degli occhi, battito delle ciglia, definizione dei denti Polizia Postale
Audio Voce monotona, assenza di respiri e di piccole esitazioni Banca d'Italia
Contenuto online Autorevolezza della fonte e notizia riportata anche da altri canali Polizia Postale

Attenzione: questi segnali aiutano, ma non sono una garanzia. Un audio senza difetti evidenti non è per questo autentico: la verifica con un secondo canale resta il passaggio decisivo.

Quali esempi concreti possono capitare a una PMI italiana?

Gli esempi che seguono sono scenari costruiti per illustrare i rischi, non episodi realmente accaduti a clienti o ad altre aziende. Si basano sugli schemi descritti dai materiali ufficiali.

Esempio uno: l'azienda artigiana e il vocale del titolare. Una piccola impresa di serramenti riceve su WhatsApp un messaggio vocale che sembra del titolare, in viaggio, e chiede all'amministrativa un bonifico urgente a un fornitore nuovo. La voce è plausibile perché la Polizia Postale segnala audio che replicano la voce di familiari e, per estensione, di persone note, come scrive nella pagina sugli strumenti di intelligenza artificiale usati per frodi. L'amministrativa che ferma tutto e richiama il titolare sul numero che già conosce evita il danno.

Esempio due: lo studio professionale e il sito clone. Uno studio di consulenza riceve una e-mail ben scritta, senza errori grammaticali e adatta al profilo del destinatario, che invita ad accedere al portale della banca. La stessa Polizia Postale indica messaggi di phishing potenziato proprio con queste caratteristiche. Chi digita da sé l'indirizzo ufficiale nel browser, invece di cliccare il link, non finisce sul sito contraffatto.

Esempio tre: il video del finto esperto. Il titolare di un'attività commerciale vede un video in cui una persona nota promette un investimento sicuro. Le indicazioni della Polizia Postale dicono di non seguire link o banner pubblicitari che rimandano a piattaforme sconosciute: la dichiarazione può essere stata mai fatta davvero.

Quali sono gli errori da evitare?

Dai materiali ufficiali emergono cinque errori ricorrenti. Ognuno ha una contromisura concreta.

Agire subito, perché la richiesta è urgente

Succede perché l'urgenza è il cuore della truffa: spinge a saltare i controlli. La Banca d'Italia indica di non fare subito ciò che viene richiesto, ad esempio comunicare le credenziali del conto o dati personali, inviare denaro o scaricare un'app. Come evitarlo: fissare la regola che nessun pagamento fuori procedura parte senza una pausa di verifica, qualunque sia la voce al telefono.

Fidarsi solo dell'aspetto di una pagina o di un video

Un sito clone può essere identico all'originale. La Polizia Postale invita a non fidarsi soltanto dell'aspetto della pagina e a controllare con attenzione l'indirizzo: anche una piccola variazione nel nome, una lettera diversa o un carattere aggiunto possono nascondere un sito contraffatto. Come evitarlo: leggere l'URL lettera per lettera prima di inserire qualsiasi dato.

I siti clone si raggiungono tramite e-mail, SMS, messaggi sui social o applicazioni di messaggistica, ma possono comparire anche tra i risultati di una ricerca online, secondo la Polizia Postale. In caso di dubbio non si usa il link, non si inseriscono dati e si raggiunge il servizio digitando direttamente l'indirizzo ufficiale nel browser o usando l'app ufficiale.

Condividere il sospetto deepfake con colleghi e contatti

Sembra un gesto prudente, ma la Banca d'Italia raccomanda di non condividere sospetti deepfake, per non esporre altri alla minaccia. Come evitarlo: segnalare il caso a un referente interno e alle autorità, non inoltrare il file nei gruppi di lavoro.

Pubblicare sui social materiale utile ai truffatori

Le autorità raccomandano di fare attenzione a ciò che si pubblica sui social, perché può essere usato come materiale dai truffatori, come indica la Banca d'Italia. Poiché bastano pochi secondi di audio, un video in cui il titolare parla a lungo può diventare la base per clonarne la voce. Come evitarlo: decidere chi in azienda pubblica cosa, e valutare quali video con voce e volto dei vertici servono davvero.

Come si applica in azienda una procedura di verifica?

Non serve un grande progetto. Serve una regola scritta, breve, che tutti conoscano. Prima di partire, verifica che ci siano questi prerequisiti.

  • Un elenco di contatti fidati dei vertici e dei fornitori principali, mantenuto fuori dai canali in cui arrivano le richieste.
  • Una persona di riferimento a cui girare i sospetti, invece di condividerli con tutti.
  • Un canale alternativo, concordato in anticipo, per confermare richieste insolite.

Poi la procedura vera e propria, da applicare a ogni richiesta fuori dall'ordinario.

  1. Fermati: non eseguire subito ciò che ti viene chiesto, che sia un pagamento, la comunicazione di credenziali o il download di un'app, come raccomanda la Banca d'Italia.
  2. Controlla il contenuto: osserva i segnali tecnici di voce e video e valuta l'autorevolezza della fonte, secondo la guida della Polizia Postale.
  3. Verifica con un canale affidabile: richiama la persona su un numero già noto e conferma la richiesta, senza rispondere sul canale da cui è arrivata.
  4. Non usare il link ricevuto: raggiungi il servizio digitando l'indirizzo ufficiale o aprendo l'app ufficiale, come indica la Polizia Postale.
  5. Segnala l'accaduto, senza inoltrare il sospetto deepfake ad altri.

La procedura funziona meglio se è parte di regole interne più ampie. Se non hai ancora una policy aziendale sull'uso dell'AI, è il momento di scriverla. Sul fronte della preparazione delle persone, ti aiuta il percorso per formare il team sull'AI. Per il quadro più generale dei rischi, c'è la guida su AI e sicurezza dei dati.

Esiste uno strumento per verificare se un contenuto è generato con l'AI?

I segnali a occhio e orecchio hanno limiti, e i materiali consultati non indicano uno strumento che dia certezza assoluta. Esistono però strumenti di rilevazione dei contenuti generati: ne parliamo nell'articolo su SynthID Detector e la verifica di immagini, audio e video. Vale la stessa logica del controllo delle risposte dell'AI prima di usarle: uno strumento supporta il giudizio, non lo sostituisce.

Se la tua azienda usa a sua volta assistenti vocali per clienti o centralino, è utile capire dove stanno i confini tra voce sintetica legittima e imitazione. Ne parlano Voice AI per aziende e gli errori da evitare con la voice AI.

Che cosa fare se la truffa è già andata a segno?

La Banca d'Italia spiega che non è ancora tutto perduto: si può segnalare l'accaduto alla propria banca per disconoscere le operazioni e chiedere il rimborso. Denunciare alle forze dell'ordine non è indispensabile per ottenere il rimborso, ma se lo fai puoi aiutare a combattere le truffe.

C'è però una condizione: il diritto al rimborso sussiste solo se si è agito in modo diligente, cioè si sono adottati i comportamenti che proteggono dalle truffe. Le regole dipendono dalla banca e dal singolo caso, e i materiali non indicano tempi, importi o modalità precise: per questo conviene contattare subito la banca e farsi dire come procedere. Questo non è un parere legale.

Un'ultima nota: la stessa fonte ricorda che esiste uno specifico reato per la diffusione di deepfake dannosi. Diffondere senza consenso immagini, video o voci manipolati con l'IA, capaci di sembrare autentici e di provocare un danno ingiusto alla persona rappresentata, può comportare la reclusione da uno a cinque anni, secondo la Banca d'Italia.

Il problema crescerà?

L'ACN riporta che, tra le previsioni di Trend Micro, i deepfake sono destinati a diventare la più grande minaccia legata all'intelligenza artificiale e verranno utilizzati per rendere sempre più credibili truffe già popolari e basate sull'ingegneria sociale. Sono previsioni, cioè proiezioni e non dati misurati, e vanno lette così. Il messaggio pratico però è chiaro: le truffe che conosciamo diventeranno più credibili, non più strane.

Che cosa può fare adesso una PMI?

Da subito: scrivere la regola della pausa e della verifica su un secondo canale, controllare quali contenuti con voce e volto dei vertici sono pubblici, e far conoscere ai colleghi i segnali descritti sopra. Sono interventi a costo basso che non richiedono tecnologia. Per un confronto sul modo di impostare regole, formazione e strumenti in modo ordinato, puoi partire dalla nostra consulenza AI.

Metodo e fonti delle guide di Giallo Studio

Vuoi applicarlo alla tua azienda?In 30 minuti, gratis: il processo da automatizzare per primo e il ritorno stimato, per iscritto.

Prenota l’audit gratuito

Come lo applichiamo in azienda

Risorse correlate

Servizi di consulenza AI e automazione dei processi

FAQ

Quanto audio serve per clonare una voce?

Secondo la Banca d'Italia basta qualche secondo di audio della voce originale, magari tratto da un video condiviso sui social. Per questo conviene valutare quali contenuti con la voce dei vertici restano pubblici.

Come riconosco una voce clonata?

Alcuni aspetti anomali sono la monotonia e l'assenza di respiri e piccole esitazioni. Non sono prove definitive: se la richiesta riguarda denaro o dati, verifica con un altro canale prima di agire.

Cosa faccio se ricevo un video sospetto?

Non fare subito ciò che ti viene richiesto e controlla il contenuto attraverso fonti affidabili. Non condividere il sospetto deepfake, per non esporre altri alla minaccia, e segnala l'accaduto.

Posso ottenere il rimborso se pago per errore?

Puoi segnalare l'accaduto alla banca per disconoscere le operazioni e chiedere il rimborso. Il diritto sussiste solo se hai agito in modo diligente, e le regole dipendono dalla banca e dal caso concreto.

Devo denunciare alle forze dell'ordine?

Non è indispensabile per ottenere il rimborso. Se lo fai, però, puoi aiutare a combattere le truffe.

Come evito i siti clone?

Controlla con attenzione l'indirizzo del sito, perché una lettera diversa o un carattere aggiunto possono nascondere un sito contraffatto. In caso di dubbio non usare il link ricevuto e digita direttamente l'indirizzo ufficiale nel browser o usa l'app ufficiale.

Applichiamolo

Trasformiamo la guida in un primo flusso live.

Raccontaci quale processo vuoi alleggerire: valutiamo fattibilità, ritorno e primo step operativo.