I video Deepfake possono essere molto pericolosi, ma fortunatamente la stessa tecnologia che li rende possibili, l'AI, può aiutare a smascherarli prima che possano fare danni. La ricerca, finanziata anche da Google e Microsoft, è intitolata Protecting World Leaders Against Deep Fakes, ed è stata presentata in vista della conferenza CVPR (Computer Vision and Pattern Recognition) 2019, che si terrà in California dal 16 al 20 giugno.

I Deepfake sono un po' l'equivalente in video dei "face swap" nelle immagini. Sostanzialmente, chiunque con un minimo di conoscenze informatiche può sostituire il volto di una persona a un'altra. Il termine Deepfake nasce verso la fine del 2017, e inizialmente riguardava la sostituzione di volti di attrici e modelle a corpi di altre persone. Non ci è voluto molto affinché qualcuno intuisse che la tecnologia potesse essere impiegata per scopi ben più pericolosi, producendo notizie false relative ai leader del mondo. Se le persone sbagliate "abboccano", le conseguenze possono essere disastrose: c'è il potenziale per iniziare guerre e sommosse, o mandare in tilt il mercato azionario.

Visualizza questo post su Instagram

‘Imagine this...’ (2019) Mark Zuckerberg reveals the truth about Facebook and who really owns the future... see more @sheffdocfest VDR technology by @cannyai #spectreknows #privacy #democracy #surveillancecapitalism #dataism #deepfake #deepfakes

Un post condiviso da Bill Posters (@bill_posters_uk) in data: 7 Giu 2019 alle ore 7:15 PDT

Questo video di "Obama" illustra questo scenario in modo particolarmente efficace pur risultando innocuo, e da qualche giorno c'è anche un video dichiaratamente falso di Mark Zuckerberg su Instagram (visibile qui sopra) in cui dice di possedere i dati di tutto il mondo e di volerli usare per dominarlo. Ma si sono già verificati casi in cui qualcuno ha fatto ricorso a questa tecnologia con cattive intenzioni. Il caso più famoso riguarda Nancy Pelosi, politica USA Democratica, presidente della Camera e apertamente molto critica nei confronti di Trump. Qualche mese fa è comparso su due pagine Facebook un video in cui parlava biascicando le parole, come se fosse ubriaca. Era falso, ma ha fatto comunque milioni di visualizzazioni. Nonostante la qualità fosse ben lontana dalla perfezione, qualcuno ci è cascato - incluse persone importanti come Rudy Giuliani, ex sindaco di New York e avvocato di Trump, che l'ha ricondiviso sui suoi profili social ufficiali. Ci sono volute 36 ore prima che Facebook verificasse il video come falso.

Come abbiamo detto, la tecnologia non è ancora del tutto perfetta. Con un po' di attenzione e di tempo, tutti o quasi possono scoprire un falso. Ma tempo e attenzione, al giorno d'oggi, scarseggiano, quindi servono strumenti automatici che riescano a rilevare il maggior numero di Deepfake possibili. I video funzionano (almeno per ora) in modo comparabile alla sostituzione di una texture in un modello 3D: il nuovo volto segue il movimento dei muscoli originari. I ricercatori hanno quindi insegnato a un'AI a riconoscere i movimenti abituali delle persone reali, come espressioni, movimenti della testa, tic e così via. Per ora si concentrano sui soggetti più pericolosi - appunto, politici e i personaggi più potenti del mondo.

I ricercatori dicono che, già al momento, la loro AI dovrebbe essere in grado di classificare correttamente come falso il video di Zuckerberg, per esempio. Ma ammettono che la qualità del falso non è altissima: "l'audio non è molto convincente e la sincronizzazione del labiale andrebbe migliorata". In ogni caso, il sistema è già più affidabile di quelli tradizionali che analizzano i singoli pixel alla ricerca di anomalie e artefatti. Al momento il sistema viene facilmente ingannato se lo sfondo dei video varia molto rispetto a quelli usati per la sua istruzione, ma è una questione risolvibile con relativa facilità: basta trovare più video sul soggetto, possibilmente con maggior varietà di scenari e ambientazioni.

Proprio nel corso della giornata di oggi ci sarà la prima riunione del Congresso USA sul problema dei video Deepfake: un segnale piuttosto chiaro che il problema è serio e concreto. Anche i ricercatori esprimono preoccupazione per il futuro: "ogni settimana ci sono progressi nella tecnologia di sintesi dei video falsi, che non sono nemmeno lontanamente controbilanciati dai progressi sul loro rilevamento".