ByteDance e TikTok avrebbero realizzato segretamente un generatore di deepfakes

03 Gennaio 2020 8

ByteDance, società proprietaria di TikTok, avrebbe sviluppato una funzionalità di "deepfake" che potrebbe consentire agli utenti di utilizzare il loro volto al posto di quello di altri. Il codice, secondo quanto riportato da TechCrunch, sarebbe presente sia in TikTok che nella sua app gemella cinese Douyin.

Per il suo funzionamento è necessario eseguire una scansione biometrica del proprio viso da varie angolazioni per poi scegliere tra una selezione di video in cui lo si vuole inserire prima di condividerlo o scaricarlo. Sul video finale sarà comunque presente una filigrana che dovrebbe aiutare a capire che si tratta di un contenuto non reale.


Ovviamente, le reazioni ad una funzionalità del genere potrebbero portarci a fare diverse considerazioni. La prima, quella buonista, ci porta ad immaginare un ambiente controllato in cui la tecnologia di "face swapping" possa essere utilizzata solo per puro divertimento invece di diffondere disinformazione. La seconda considerazione potrebbe essere quelle di farci aumentare la consapevolezza nel non credere a tutto ciò che si vede online. Ma la considerazione più preoccupante riguarda ciò che ByteDance potrebbe fare con dati biometrici così sensibili, simili a quelli che vengono utilizzati per il Face ID su iPhone.

TechCrunch ha ricevuto informazioni su questa funzione dalla startup israeliana Watchful.ai che aveva scoperto il codice per la funzione deepfakes nell'ultima versione Android sia di TikTok che di Douyin. Watchful.ai è stata in grado di attivare il codice in Douyin ed ha anche notato dei cambiamenti dei termini di servizio riguardanti la privacy e l'uso della funzione deepfakes.

Un portavoce di TikTok, dietro richiesta di TechCrunch, ha confermato che "questa non è assolutamente una funzione presente in TikTok, e non c'è nessuna intenzione di introdurla".

TikTok ricordiamo, è già stato bandito dalla Marina degli Stati Uniti, inoltre l'acquisizione e la fusione di Musical.ly in TikTok è sotto inchiesta da parte del Committee on Foreign Investment. I timori generati da questa funzionalità potrebbero intensificare ulteriormente il controllo. Con le giuste garanzie, tuttavia, la tecnologia di face swapping potrebbe inaugurare una nuova era di contenuti generati dagli utenti in cui il creatore è sempre al centro dell'azione.


8

Commenti

Regolamento Commentando dichiaro di aver letto il regolamento e di essere a conoscenza delle informazioni e norme che regolano le discussioni sul sito. Clicca per info.
Caricamento in corso. Per commentare attendere...
Nico Ds

Il nome Tik Tok può essere giustificato dalle politiche societarie alla "ciccio mi tocca, toccami ciccio": prima fanno di tutto per farsi puntare il dito contro, poi si lamentano quando gli altri lo alzano.

Sacro cuore

Padre nostro che sei nei cieli

sia santificato il Tuo nome

venga il Tuo Regno

sia fatta la Tua volontà

come in cielo così in terra.

Dacci oggi il nostro pane quotidiano

rimetti a noi i nostri debiti

come noi li rimettiamo ai nostri debitori

e non ci indurre in tentazione

ma liberaci dal male

Amen.

momentarybliss

Ma siamo sicuri che in questo caso si possa parlare di deepfake? Sostituire il volto di un soggetto di un filmato predefinito realizzato appositamente per l'app non penso possa essere considerato alla stessa stregua di una pornostar a cui si sostituisce il viso con quello di una attrice di Hollywood o roba del genere. Semmai desta più dubbi la conservazione dei dati del volto degli utenti

boosook

Ma sicuro che l'hanno fatta, è un po' come la bomba atomica... Tutti ce l'hanno, ma nessuno la usa. Se qualcuno lancia un'app che permette il deepfake, ecco che loro sono pronti.

Stefano Bortoletto

Idiocracy aveva previsto tutto

Gaetano

Meglio, un attimo di spazio per far riprendere il giusto corso alla natura.

Sig. Mark

Secondo me tra qualche generazione il mondo cadrà nell'oblio più totale, sarà pieno di gente ritardata.

marco

Continuate a fare i cretini con ste app del c4zz0

Scontrino elettronico dal 1° gennaio per tutti, cosa cambia

DJI Mavic Mini ufficiale: pesa solo 249 grammi, prezzi da 399 euro

Recensione PowerBeats Pro: gli Apple AirPods per gli sportivi

Surface: tutte le novità presentate da Microsoft