Facebook e moderazione, organo di controllo duro: utenti di Serie A e di Serie B

06 Dicembre 2022 14

Hanno fatto rumore le rivelazioni del Wall Street Journal di settembre 2021 sul programma di controllo incrociato XCheck. Per farla breve, era la classica storia dei due pesi e due misure: moderazione dei contenuti fin troppo efficiente per gli utenti comuni di Facebook, maglie più larghe per i VIP, definiti "membri selezionati della nostra comunità". Meta, un mese dopo, rimandò la questione all'Oversight Board, un comitato interno istituito per controllare e supportare Facebook nelle questioni sulla libertà di parola online.

DA QUALE ESIGENZA NASCE IL CONTROLLO INCROCIATO

Gli si chiese di esaminare il programma di controllo incrociato (XCheck) e raccomandazioni su come migliorarlo. E la risposta, il parere normativo, del comitato è arrivata. Anzitutto c'è da conoscere il contesto. Quando il Board ha iniziato ad analizzare la questione, Meta ha fatto sapere che eseguiva quotidianamente circa 100 milioni di azioni di applicazione sui contenuti.

Pure ammettendo un'efficacia del 99%, quell'1% mancante alla perfezione equivale a circa un milione di errori al giorno. Quindi, nonostante un sistema di moderazione debba trattare tutti alla stessa maniera, se il bacino conta 100 milioni di contenuti la sfida è complessa, e può accadere che vengano rimossi dei contenuti che non violano alcuna norma o, al contrario, che restino online degli altri che andrebbero eliminati. Solo che non tutti i contenuti possono danneggiare la comunità alla stessa maniera.

Per arginare il problema è stato introdotto XCheck, che affida al controllo umano alcuni post identificati dagli algoritmi come in violazione. I contenuti sottoposti a questo doppio controllo, incrociato per l'appunto, non vengono subito rimossi come accade normalmente ma vengono mantenuti in attesa fino a che qualcuno li esamini.

'PROTEZIONE A DETERMINATI UTENTI PER INTERESSI AZIENDALI'

E sul controllo incrociato, l'Oversight Board ha individuato varie lacune. "Il Board riconosce - si legge nel rapporto - che Meta è un'azienda, tuttavia, fornendo protezione ulteriore a determinati utenti soprattutto sulla base di interessi aziendali, il controllo incrociato consente a contenuti che altrimenti verrebbero rapidamente rimossi di rimanere visibili più a lungo, con il rischio potenziale di causare danno".

Inoltre, aggiunge il Board, "Meta non ha monitorato i dati per stabilire se il controllo incrociato porti effettivamente a decisioni più attendibili e abbiamo espresso preoccupazione per la mancanza di trasparenza in merito al programma". Per cui a Meta è stato "consigliato" di dare priorità alle espressioni importanti per i diritti umani, anche quando sono di rilevanza pubblica, di adottare misure per mitigare i danni causati dalla permanenza dei contenuti sottoposti a ulteriore controllo, e di aumentare drasticamente la trasparenza dei propri sistemi.

TRATTAMENTO IMPARI E POCA TRASPARENZA

Nel controllo incrociato di Meta, quindi, il Board ha individuato diverse lacune, nelle seguenti "aree fondamentali":

  • Trattamento impari degli utenti - il controllo incrociato assicura a determinati utenti maggiore protezione rispetto ad altri. È ciò che si spiegava sopra: i post degli utenti comuni vengono eliminati immediatamente e senza verifica umana, quelli degli utenti presenti sugli elenchi del controllo incrociato invece rimangono online in attesa del verdetto umano. "Questa iniquità di trattamento - ha scritto il Board - è particolarmente preoccupante considerata l'assenza di criteri trasparenti in merito agli elenchi del controllo incrociato di Meta. [...] Gli utenti i cui contenuti potrebbero essere importanti dal punto di vista dei diritti umani, come giornalisti e organizzazioni della società civile, hanno a disposizione percorsi meno chiari per accedere al programma".
  • Rimozione ritardata dei contenuti in violazione - Meta ha riferito al Board che possono trascorrere più di cinque giorni prima che si decida sui contenuti degli utenti presenti sugli elenchi del controllo incrociato. Di conseguenza questi contenuti rimangono su Facebook e Instagram nel momento in cui sono maggiormente virali e potenzialmente pericolosi.
  • Mancato monitoraggio delle metriche principali - le metriche utilizzate attualmente da Meta per determinare l'efficacia del controllo incrociato sono inadeguate a rilevare tutte le principali criticità.
  • Mancata trasparenza sul funzionamento del controllo incrociato - le poche informazioni fornite al pubblico e agli utenti da parte di Meta impedisce al Board e al pubblico di comprendere appieno le conseguenze del programma.
Il TOP di gamma più piccolo? Samsung Galaxy S21, in offerta oggi da Pskmegastore a 400 euro oppure da eBay a 450 euro.

14

Commenti

Regolamento Commentando dichiaro di aver letto il regolamento e di essere a conoscenza delle informazioni e norme che regolano le discussioni sul sito. Clicca per info.
Caricamento in corso. Per commentare attendere...
HeySiri

In quale realtà non ci sono persone che contano più di altre?

Alexv

Se esistono queste stronzate è colpa delle varie legislazioni, non delle piattaforme.

LeX

Intesa come cancro o come polizia della DDR? ;)

Maxatar

E gli ovini...

Maxatar

Meta Meta

Non sai trarre delle conclusioni da solo?

LOL!

Paolo Giulio

... e quindi?

J0k3r_IT

prima solo sostenerlo era un gomblotto... adesso quello che era sotto gli occhi di tutti tranne chi in malafede è conclamato XD

Jotaro

Sono d'accordo che l'organo di controllo debba essereolto duro. Più duro sarà meglio sarà. Se lo meritano.

Coolguy

Meta...stasi!

legge dell'IT fin'ora risultata sempre valida: "la moderazione su larga scala è impossibile"

Jotaro

Preferisco la valenza a idrogeno.

nutci2nd

Su HDBlog siamo in Eccellenza.

Patrocinante in Cassazione

la pentola si scoperchia, vuoi vedere che poi usciranno plusvalenze e clausole segrete?

Economia e mercato

Poste Italiane, offerta luce e gas da metà febbraio. Prezzo fisso per due anni

Recensione

Aqara, la casa Smart semplice e ben fatta: cos'è e come funziona | Video

Economia e mercato

Google ha paura di ChatGPT: in arrivo due chatbot di ricerca e altri prodotti AI

Accessori

PanzerGlass: abbiamo provato a spaccare il vetro di un iPhone | Video