Facebook, 9 milioni di foto inappropriate di minori rimosse dal machine learning

25 Ottobre 2018 22

Facebook ha annunciato in queste ore di aver rimosso, soltanto nell'ultimo trimestre, 8,7 milioni di contenuti che violano le regole contro lo sfruttamento dei minori; tutto grazie alla tecnologia e al machine learning. La nuova intelligenza artificiale, sviluppata e implementata nell'ultimo anno dalla società, ha rimosso in automatico il 99% di questi contenuti prima ancora che qualcuno potesse segnalarli. Queste le dichiarazioni di Antigone Davis, responsabile della sicurezza globale di Facebook.

La nuova tecnologia esamina i post alla ricerca di nudità infantile e altri contenuti che violano le norme già al momento del caricamento e, se necessario, oltre a inibire l'operazione segnala alle autorità competenti l'abuso trasmettendo immagini e dati dell'account che ha effettuato il tentativo di upload.

Facebook utilizzava già una tecnologia di foto-matching che, per limiti tecnici, risultava ovviamente meno precisa. Con l'introduzione del nuovo sistema di riconoscimento si riesce ad ottenere un livello di protezione maggiore e a prevenire la diffusione di abusi e contenuti inappropriati in maniera più profonda.

La tecnologia non è ancora perfetta e in diverse occasioni sono giunte segnalazioni da parte dei genitori di foto rimosse pur se innocue. Per spiegare e giustificare l'accaduto Davis ha quindi affermato che, con l'intenzione di scongiurare ogni pericolo di abuso, in alcuni casi vengono censurate anche immagini con contenuti non sessuali, come ad esempio i bimbi nella vasca da bagno. Proprio questo è uno dei motivi per il quale sono state rimosse così tante foto nel corso dell'ultimo trimestre.


In questo turbine di censure e tecnologie di moderazione erano finite in passato anche immagini di valore storico e iconico come la famosa "Napalm Girl", foto che ritrae una donna che fugge nuda dopo aver subito ustioni per un attacco al Napalm subito dal suo villaggio durante la guerra del Vietnam nel 1972.

Compromessi che vanno accettati nell'ottica di migliorare la moderazione sui social network. Un'operazione assolutamente non facile che trova però nelle nuove tecnologie un importante alleato per una componente umana comunque presente ma, si spera, sempre meno coinvolta. Esempio delle conseguenze dell'attività di moderazione giungono da un episodio recente, nel quale un ex moderatore di contenuti di Facebook ha citato in giudizio la società per un disturbo da stress post-traumatico dovuto alla continua analisi di contenuti con immagini di violenza e abusi.

L'iPhone più potente di sempre con il design più classico di sempre? Apple iPhone 8, in offerta oggi da Phoneclick a 499 euro oppure da Media World a 549 euro.

22

Commenti

Regolamento Commentando dichiaro di aver letto il regolamento e di essere a conoscenza delle informazioni e norme che regolano le discussioni sul sito. Clicca per info.
Caricamento in corso. Per commentare attendere...
qandrav

Nulla, al contrario, trovo sia uno dei siti migliori di tutta internet (e sono serissimo)

Semplicemente ci sono alcuni subreddit che sono l'antitesi del politic4lly correct ed altri che contengono immagini/video molto forti (no, non in quel senso)
A me la cosa non disturba minimamente, mi fa solo ridere che quell'ex dipendente FB abbia avuto tutti quei problemi, è ovvio che non era il lavoro per lui..

alexhdkn

Non ammiro le minorenni.

Signor Citrus

non che che gusti tu abbia ma i miei vanno dalle ragazzine alle donne anziane. Se hanno un bel corpo io ammiro, ovviamente nel rispetto.

alexhdkn

Perché sono indecenti

alexhdkn

Ehm no.

Signor Citrus

E dopo, tanto poi le vedi in strada e ti ecciti lo stesso.
É umana la cosa.

Francesco

reddit?? che ha che non va??

Gios

E a quella di credito XD

qandrav

",non è che puoi permetterti di censurare qualcosa solo perchè non ti piace."

come no? possono anche bannare tutti gli utenti e chiudere domattina :)

"facebook ha troppo potere" verissimo
"bisogna cercare di usarlo nel modo migliore " non esiste, l'unico modo per migliorare fb è chiuderlo completamente, ha già rovinato l'umanità a sufficienza

mruser2

Ahahah sanno così tante cose che l’età è la cosa più semplice da sapere

Tugur Reddu

"...FB è un sito privato ed è liberissimo di accettare o meno qualsiasi foto..."
Insomma,dal momento in cui tu sei di libero e gratuito accesso ed hai 2miliardi di iscritti,non è che puoi permetterti di censurare qualcosa solo perchè non ti piace.
Dovrai dare delle linee guida su cosa è accettato o meno,ma sicuramente non puoi permetterti di censurare qualcosa solo perchè da fastidio.Un social come facebook ha troppo potere e bisogna cercare di usarlo nel modo migliore e la censura difficilmente è un buon modo.
sempre secondo me, sia chiaro.

qandrav

"un ex moderatore di contenuti di Facebook ha citato in giudizio la società per un disturbo da stress post-traumatico dovuto alla continua analisi di contenuti con immagini di violenza e abusi."

ahahaha ma chi è sto qua? cioè se apre reddit o i vecchi rotten/jarsquatter che fa?

"vengono censurate anche immagini con contenuti non sessuali, come ad esempio i bimbi nella vasca da bagno"
Ne conosco anche io ma come fanno sti imb3cilli a mettere ste foto dei propri figli si fb?

"In questo turbine di censure e tecnologie di moderazione erano finite in passato anche immagini di valore storico e iconico come la famosa "Napalm Girl""

Verissimo ma in questo caso chi ha iniziato la polemica è un c0glione. FB è un sito privato ed è liberissimo di accettare o meno qualsiasi foto; quell'immagine rimane storica a prescindere da FB, non sta scritto da nessuna parte che DEBBA esser su fb.
Come quando Sgarbi si arrabbia perché FB cancella foto di arte...e perché dovrebbero stare su fb???

Rieducational Channel

Davvero si chiama Antigone questo?

ghost

Avranno tolto un po'di bambini bianchi perché erano troppi rispetto ai neri facendo diventare il numero totale ina media appropriata

Lolloso

beh giusto qualche giorno fa Bing immagini mi ha restituito immagini di esplicita pedofilia sia sotto forma di cartoon quanto alcune da sembrare "reali". Ok che ho il filtro disattivato ma checcazzo schifezze del genere non dovrebbero proprio apparire ! Che poi non sai neanche se fare la segnalazione, mica che dopo sembra che sei andato a cercarle apposta

fabiman92

Guarderà la proporzione della statura

StriderWhite

Facile, fai la foto insieme alla carta d'identità! :D

StriderWhite

nooo, perché? :D

alexhdkn

Dovrebbero anche rimuovere le foto delle 15/16/17 enni vestite in modo ridicolo per la loro età

momentarybliss

Rimango ogni volta basito/inorridito dalla superficialità dei genitori quando in profili Facebook trovati casualmente in rete a cui non ho alcun accesso vengono mostrate immagini dei figli piccoli, nelle situazioni più disparate. Pazzesco

Andhaka

Immagino che l'unico modo sia il tag del profilo associato alla foto, altrimenti, ovviamente, non penso faccia una valutazione biometrica del soggetto in stile Bones. ;)

Cheers

romoloo

a parte che le nudità sono proibite a prescindere su fb, ma poi l'ai come fa a capire se una ha 17 o 18 anni? ci sono alcune che dimostrano molto di più e altri che dimostrano molti meno anni

Sony

Recensione Sony Xperia 10 Plus: il display 21:9 non basta

HDMotori.it

Ford Focus 2019 ST-Line 1.5 EcoBlue: recensione e prova su strada | Video

Alta definizione

Recensione TV Sony KD-65AF9: OLED e Android TV ai massimi livelli

Samsung

Recensione Samsung Galaxy S10e: ecco perchè lo preferisco ad altri