Video Deepfake, la stessa tecnologia che li rende possibili (AI) li può smascherare

13 Giugno 2019 23

I video Deepfake possono essere molto pericolosi, ma fortunatamente la stessa tecnologia che li rende possibili, l'AI, può aiutare a smascherarli prima che possano fare danni. La ricerca, finanziata anche da Google e Microsoft, è intitolata Protecting World Leaders Against Deep Fakes, ed è stata presentata in vista della conferenza CVPR (Computer Vision and Pattern Recognition) 2019, che si terrà in California dal 16 al 20 giugno.

I Deepfake sono un po' l'equivalente in video dei "face swap" nelle immagini. Sostanzialmente, chiunque con un minimo di conoscenze informatiche può sostituire il volto di una persona a un'altra. Il termine Deepfake nasce verso la fine del 2017, e inizialmente riguardava la sostituzione di volti di attrici e modelle a corpi di altre persone. Non ci è voluto molto affinché qualcuno intuisse che la tecnologia potesse essere impiegata per scopi ben più pericolosi, producendo notizie false relative ai leader del mondo. Se le persone sbagliate "abboccano", le conseguenze possono essere disastrose: c'è il potenziale per iniziare guerre e sommosse, o mandare in tilt il mercato azionario.

Questo video di "Obama" illustra questo scenario in modo particolarmente efficace pur risultando innocuo, e da qualche giorno c'è anche un video dichiaratamente falso di Mark Zuckerberg su Instagram (visibile qui sopra) in cui dice di possedere i dati di tutto il mondo e di volerli usare per dominarlo. Ma si sono già verificati casi in cui qualcuno ha fatto ricorso a questa tecnologia con cattive intenzioni. Il caso più famoso riguarda Nancy Pelosi, politica USA Democratica, presidente della Camera e apertamente molto critica nei confronti di Trump. Qualche mese fa è comparso su due pagine Facebook un video in cui parlava biascicando le parole, come se fosse ubriaca. Era falso, ma ha fatto comunque milioni di visualizzazioni. Nonostante la qualità fosse ben lontana dalla perfezione, qualcuno ci è cascato - incluse persone importanti come Rudy Giuliani, ex sindaco di New York e avvocato di Trump, che l'ha ricondiviso sui suoi profili social ufficiali. Ci sono volute 36 ore prima che Facebook verificasse il video come falso.

Come abbiamo detto, la tecnologia non è ancora del tutto perfetta. Con un po' di attenzione e di tempo, tutti o quasi possono scoprire un falso. Ma tempo e attenzione, al giorno d'oggi, scarseggiano, quindi servono strumenti automatici che riescano a rilevare il maggior numero di Deepfake possibili. I video funzionano (almeno per ora) in modo comparabile alla sostituzione di una texture in un modello 3D: il nuovo volto segue il movimento dei muscoli originari. I ricercatori hanno quindi insegnato a un'AI a riconoscere i movimenti abituali delle persone reali, come espressioni, movimenti della testa, tic e così via. Per ora si concentrano sui soggetti più pericolosi - appunto, politici e i personaggi più potenti del mondo.


I ricercatori dicono che, già al momento, la loro AI dovrebbe essere in grado di classificare correttamente come falso il video di Zuckerberg, per esempio. Ma ammettono che la qualità del falso non è altissima: "l'audio non è molto convincente e la sincronizzazione del labiale andrebbe migliorata". In ogni caso, il sistema è già più affidabile di quelli tradizionali che analizzano i singoli pixel alla ricerca di anomalie e artefatti. Al momento il sistema viene facilmente ingannato se lo sfondo dei video varia molto rispetto a quelli usati per la sua istruzione, ma è una questione risolvibile con relativa facilità: basta trovare più video sul soggetto, possibilmente con maggior varietà di scenari e ambientazioni.

Proprio nel corso della giornata di oggi ci sarà la prima riunione del Congresso USA sul problema dei video Deepfake: un segnale piuttosto chiaro che il problema è serio e concreto. Anche i ricercatori esprimono preoccupazione per il futuro: "ogni settimana ci sono progressi nella tecnologia di sintesi dei video falsi, che non sono nemmeno lontanamente controbilanciati dai progressi sul loro rilevamento".

L'unico vero Note? Samsung Galaxy Note 9 è in offerta oggi su a 539 euro oppure da Coop Online a 649 euro.

23

Commenti

Regolamento Commentando dichiaro di aver letto il regolamento e di essere a conoscenza delle informazioni e norme che regolano le discussioni sul sito. Clicca per info.
Caricamento in corso. Per commentare attendere...
Liburn

deep fake ovviamente

Emanuele

Non conosco il tipo(e non ho voglia di cercare)… ma è un deepfake o gli assomiglia davvero?

Antsm90

Hai dimenticato proprio quello che si usa per i deep fake (o almeno quelli di alto livello): Adobe After Effects ;)

Marco Cancian

Photoshop (Fotoritocco e affini)
Lightroom (Elaborazione e catalogo di file fotografici RAW,CR2,ecc..)
Premiere Pro (Editing Video)

Chirurgo Plastico

Ma la differenza tra Adobe Photoshop, Premiere , Lightroom quale sarebbe?

Emanuele Gori

Fakeapp credo sia una delle più usate, ma anche Adobe mi pare abbia implementato qualcosa del genere in Premiere o Lightroom

Cloud387

Io scanso di equivoci ho preso posto nel vault 101

Davide

Figo, dove trovo un progetto su git per provare 'sto software?

eL_JaiK
il Gorilla con gli Occhiali

Sarebbe il top.

IGN_mentale

Col casco di banane

il Gorilla con gli Occhiali

Se utilizzi la tua testa niente e nessuno potrà mai ingannarti.

Chirurgo Plastico

Ma che programmi isano per creare questi video?

vincy
Alessio Ferri

La democrazia è al tramonto o è finita, lo scenario in cui ambientato 1984 è già qui e non arriveremo alla fine del secolo.

David Lo Pan

Anni ed anni fa, si chiedeva più informazione. Oggi, sappiamo che troppa informazione fa male, in molti casi crea veri e propri danni, e così siamo diventati ultra-diffidenti. Sospettosi. Di tutto e di tutti.

Con questi Deepfake, le cose andranno anche peggio, credo.

Torneremo ai segnali di fumo. Ognuno dalla sua bat-caverna.

JustATiredMan

I nostri cari leaders, sono pericolosi anche senza video deepfake....

sgarbateLLo

Tranne quelli dei fake taxi

Squak9000

fossero soltanto i "Deepfake"...

di boiate ne sparano tutti i giorni senza le facce appiccicate sopra...

OrIaf

Quelli veri ancora di più.

ne ho visto uno dove annunciavano un iphone a 1500 euro.....ah no....aspetta.......

vincy

I fake video fanno paura.

OrIaf

Ottimo per crearne uno con Tim Cook, che avvisa il cameriere del nuovo update iOS.

Android

Recensione Google Pixel 4 XL e confronto sblocco 3D con iPhone 11

Amazon

Le migliori offerte Week End: gadget, accessori, smartphone, informatica e altro

Mobile

Recensione Huawei Watch GT 2: super autonomia e bel display

Apple

Recensione iPad 10.2 (2019), iPadOS fa la differenza