Deepfake: Amazon scende in campo con Facebook e Microsoft per contrastarli

22 Ottobre 2019 4

Anche Amazon scende in campo contro i deepfake: la divisione Web Services del colosso fondato da Jeff Bezos si è schierata accanto a Facebook e Microsoft nella Deepfake Detection Challenge, sia come partner tecnico che come membro della commissione che gestisce la "sfida".

Amazon Web Services offrirà guida e supporto tecnico agli esperti di machine learning che si occupano di contrastare il fenomeno dei video deepfake, e offrirà 1 milione di dollari in crediti del cloud AWS per la ricerca ai gruppi di studiosi che hanno bisogno dei servizi cloud per supportare il loro lavoro.

Il progetto coinvolge anche altri soggetti, tra cui il New York Times, l'Università di Oxford e il MIT. L'obiettivo è creare strumenti open source che possano essere sfruttati liberamente da società, organizzazioni media e di sicurezza, oltre che dai governi, per rilevare i filmati alterati.

Azioni di contrasto che si rendono sempre più necessarie, perché il fenomeno dei deepfake è in continua espansione. Si tratta, come già spiegato in altre sedi, di una tecnica per la sintesi dell'immagine basata sull'intelligenza artificiale, che viene usata per contraffare video in maniera estremamente realistica, facendo dire alle persone le cose più disparate. È di qualche settimana fa il video che mostra l'attore americano Jim Meskimen interpretare una ventina di attori e personaggi famosi diversi, cambiando letteralmente volto.

La tecnica è stata usata per creare falsi video pornografici con celebrità e per il revenge porn, ma - come è facile immaginare - può essere usato anche per dar corpo a fake news, bufale e truffe, con conseguenze molto gravi in tutti i casi. Basti pensare agli appuntamenti elettorali più prossimi, tra cui molte tornate di un certo peso.

I video deepfake sono dunque creati con l'AI: ma la stessa tecnologia che li rende possibili li può anche smascherare. Ed è proprio a questo scopo che anche Google è ha condiviso un database contenente diversi filmati deepfake creati con lo scopo di allenare i meccanismi di riconoscimento; un lavoro cui ha partecipato la professoressa Luisa Verdoliva dell'Università Federico II di Napoli, che prende parte anche alla Deepfake Detection Challenge.


Dal canto suo, anche Facebook sta fornendo ai ricercatori degli esempi di deepfake, fornendo i primi 5.000 video degli oltre 100.000 creati appositamente per la Challenge, che sarà lanciata ufficialmente a dicembre.

Anche Twitter sta iniziando ad occuparsi del problema: la piattaforma social ha annunciato che apporterà delle modifiche alla policy riguardo ai video deepfake. La questione, sulla quale è stato richiesto il parere degli utenti, è cosa fare di questi video una volta che sono stati individuati, ad esempio se segnalarli semplicemente o rimuoverli direttamente.


4

Commenti

Regolamento Commentando dichiaro di aver letto il regolamento e di essere a conoscenza delle informazioni e norme che regolano le discussioni sul sito. Clicca per info.
Caricamento in corso. Per commentare attendere...
ghost

Se fossimo una razza evoluta questa tecnologia aarebbe divertente invece a causa di lesi mentali che credono a tutto abbiamo necessità di difenderci

il Gorilla con gli Occhiali

È una tecnologia molto divertente.

Tony Carichi

a questi che "corrono ai ripari" sfugge la regola basilare dell'informazione: la prima notizia è quella vera, anche se è falsa.
Eventuali rettifiche arrivano con l'opinione pubblica già polarizzata e non hanno mai minimamente la stessa potenza persuasiva della prima.

Android

Recensione Xiaomi Mi Note 10: 5 cam posteriori e batteria grandissima

Amazon

Le migliori offerte Amazon, Unieuro e Mediaworld verso Black Friday 2019

Video recensione

Recensione DJI Mavic Mini: il drone più pericoloso e quello che comprerei

Amazon

Amazon anticipa il Black Friday con Tesori Nascosti: migliori offerte dell'ultimo giorno