L’uso dell’AI per creare fake video dilaga. Nell’ultimo anno esempi che coinvolgono volti famosi come Tom Hanks e Mr. Beast sono stati utilizzati per la promozione di prodotti che i protagonisti non conoscevano e tantomeno approvavano.
La nuova truffa dei deepfake, sempre più diffusa sui social media, ha recentemente coinvolto anche Taylor Swift e Selena Gomez, la cui immagine è stata sfruttata per truffare i potenziali acquirenti delle costose pentole Le Creuset.
Gli spot pubblicati su Meta – che possiede Facebook e Instagram – ma anche su TikTok e YouTube, sono stati realizzati grazie al contributo dell’intelligenza artificiale che riproduce fedelmente l’aspetto e la voce delle star; solitamente includono link che se aperti inducono i malcapitati utenti a sottoscrivere con stratagemmi costosi abbonamenti.
Nel presunto annuncio promozionale Le Creuset, una Selena Gomez ‘ricostruita’ dichiarava che le pentole sarebbero state consegnate gratis ai suoi fan “a causa di un errore di imballaggio del magazzino”, tuttavia coloro che erano interessati dovevano agire in fretta. Si chiedeva il pagamento solo della spedizione, $9,96 tramite l’accesso a un link.
Chiunque abbia inserito informazioni personali e abbia tentato di richiedere il set gratuito di pentole è stato successivamente reindirizzato a siti di notizie false che rafforzavano la convinzione che l’offerta fosse reale. Una volta effettuato il pagamento, i dati della carta di credito delle vittime venivano registrati e la sottoscrizione a un abbonamento mensile del costo di $89,95 diveniva automatico.
Difficilmente gli utenti truffati potranno rientrare in possesso dei soldi prelevati senza consenso; chi reclama finisce nelle mani di una presunta “assistenza clienti” che insisterà nel confermare che i servizi acquistati erano concordati nei termini iniziali delle clausole del contratto.
La società Meta – che ha fatto sapere di aver intrapreso un’azione legale contro alcuni di questi truffatori – attraverso un suo portavoce ha dichiarato al New York Times che gli annunci fraudolenti spesso non sono facilmente intercettabili dai sistemi di revisione perché i loro creatori sono in grado di nasconderne i contenuti.
