Quando scorriamo velocemente i feed dei nostri social network, l’abitudine ci porta spesso a fidarci istintivamente di volti noti e voci familiari. Eppure, le recenti evoluzioni tecnologiche hanno reso spaventosamente semplice manipolare la realtà. È esattamente quello che mi è successo di recente: mi sono ritrovato, a mia totale insaputa, protagonista di una campagna pubblicitaria ingannevole creata interamente al computer.
L’uso improprio dell’intelligenza artificiale sta aprendo scenari preoccupanti per i creatori di contenuti e per gli utenti finali. Voglio raccontarvi nel dettaglio questa esperienza per aiutarvi a tenere gli occhi aperti e a riconoscere queste minacce invisibili.
L’anatomia di una truffa ben architettata
Tutto è iniziato con un video in cui apparivo io, con la mia faccia e la mia voce, intento a promuovere un’applicazione legata al gioco d’azzardo. Nel filmato, il mio alter ego digitale pronunciava frasi come: “Smettila di arricchire i proprietari dei casinò. Nelle slot con licenza Pragmatic Play è integrato un algoritmo di ritorno del 98%. Scarica l’app e riscuoti il bonus”.
Si trattava di un deepfake in piena regola. I truffatori hanno recuperato un mio vecchio filmato, risalente a un periodo buio in cui il mio canale era stato hackerato e io registravo dal divano con un forte mal di schiena. Hanno preso quella clip, l’hanno manipolata e mi hanno fatto pronunciare un messaggio promozionale aggressivo per un casinò online, un argomento che non ho mai trattato in vita mia. Il pericolo più grande è che, nello scrolling distratto di tutti i giorni, qualcuno potrebbe guardare i primi cinque secondi, riconoscere il mio volto e cascare in una truffa.
L’evoluzione tecnologica e i nuovi rischi
Fino a qualche anno fa, realizzare un video falso di questa caratura richiedeva attrezzature professionali, settimane di lavoro per modificare i frame singolarmente e un’enorme competenza per sincronizzare il labiale con l’audio. Oggi, con i nuovi sistemi generativi, bastano appena venti secondi di campionamento audio per clonare in modo inquietante la voce di chiunque. Pensate a quanti messaggi vocali inviamo ogni giorno: chiunque potrebbe essere un bersaglio.
I rischi per chi subisce questo tipo di attacco sono molteplici:
- Danni reputazionali: i follower o i conoscenti potrebbero associare la persona a pratiche illecite o eticamente discutibili.
- Rischi economici e legali: se un utente viene truffato dall’applicazione sponsorizzata nel video, potrebbe rivalersi sul personaggio pubblico, costringendolo a dover dimostrare la propria estraneità ai fatti.
- Ricatti ed estorsioni: la tecnologia può essere usata per inserire persone comuni in contesti compromettenti a scopo di ricatto, configurando reati gravi legati al furto di identità.
Come smascherare i contenuti falsi generati dall’IA
Nonostante la precisione di questi strumenti, esistono ancora dei campanelli d’allarme che possono aiutarci a distinguere un contenuto genuino da una truffa digitale.
L’analisi tecnica è il primo passo. Spesso, nei video manipolati, il volto risulta leggermente sfocato o presenta dei difetti nei bordi durante i movimenti bruschi. Anche la sincronizzazione labiale, per quanto impressionante, a volte mostra delle piccole incertezze o delle espressioni facciali innaturali rispetto al tono della voce.
Tuttavia, l’arma di difesa più potente è l’analisi del contesto. Se un creatore di contenuti che recensisce abitualmente tecnologia o automobili inizia improvvisamente a promettere guadagni facili tramite app di scommesse, la lampadina dell’allerta deve accendersi immediatamente. Inoltre, è fondamentale controllare la fonte della diffusione. Questi video illeciti non vengono mai pubblicati sui canali ufficiali, ma spesso compaiono come inserzioni sponsorizzate caricate da account sconosciuti, nati da pochi giorni e destinati a sparire rapidamente.
La risposta dei social network e i limiti dei controlli
Fortunatamente, nel mio caso, la vicenda si è risolta in fretta. Avvisato da un utente attento della community, ho segnalato immediatamente l’inserzione e Meta ha rimosso il contenuto in meno di mezz’ora, confermando la loro politica di tolleranza zero verso l’impersonificazione e le truffe.
Tuttavia, bisogna riconoscere che per le piattaforme non è semplice filtrare automaticamente questi contenuti. I sistemi di moderazione automatica sono addestrati per bloccare immagini di nudo, violenza o violazioni palesi. Un video in cui una persona parla pacatamente in una stanza non fa scattare i classici filtri di sicurezza.
Il problema diventerà ancora più complesso quando i truffatori inizieranno a creare deepfake estremamente contestualizzati. Immaginate se usassero la mia immagine non per vendere un casinò, ma per promuovere in modo falso un telefono che in realtà ho aspramente criticato, lodandone falsamente le prestazioni per spingere vendite affiliate illecite. In casi così verosimili, persino l’algoritmo di moderazione farebbe fatica a distinguere il vero dal falso.
L’intelligenza artificiale è uno strumento a doppio taglio
Non dobbiamo demonizzare la tecnologia in sé. Se usata in modo etico, l’intelligenza artificiale offre possibilità straordinarie, come il doppiaggio automatico in altre lingue o la semplificazione di processi creativi complessi. Ma quando cade nelle mani sbagliate, l’uso improprio è mille volte più facile e dannoso.
La parola d’ordine deve essere consapevolezza. Dobbiamo tenere gli occhi aperti senza cadere nella paranoia, imparando a verificare sempre le fonti e a non fermarci alla superficie di un contenuto. In un futuro molto prossimo, probabilmente avremo bisogno di veri e propri certificati digitali integrati nei video per attestarne l’autenticità e tutelare l’identità di tutti noi.
