Hanno fatto rumore le rivelazioni del Wall Street Journal di settembre 2021 sul programma di controllo incrociato XCheck. Per farla breve, era la classica storia dei due pesi e due misure: moderazione dei contenuti fin troppo efficiente per gli utenti comuni di Facebook, maglie più larghe per i VIP, definiti "membri selezionati della nostra comunità". Meta, un mese dopo, rimandò la questione all'Oversight Board, un comitato interno istituito per controllare e supportare Facebook nelle questioni sulla libertà di parola online.

Gli si chiese di esaminare il programma di controllo incrociato (XCheck) e raccomandazioni su come migliorarlo. E la risposta, il parere normativo, del comitato è arrivata. Anzitutto c'è da conoscere il contesto. Quando il Board ha iniziato ad analizzare la questione, Meta ha fatto sapere che eseguiva quotidianamente circa 100 milioni di azioni di applicazione sui contenuti.

Pure ammettendo un'efficacia del 99%, quell'1% mancante alla perfezione equivale a circa un milione di errori al giorno. Quindi, nonostante un sistema di moderazione debba trattare tutti alla stessa maniera, se il bacino conta 100 milioni di contenuti la sfida è complessa, e può accadere che vengano rimossi dei contenuti che non violano alcuna norma o, al contrario, che restino online degli altri che andrebbero eliminati. Solo che non tutti i contenuti possono danneggiare la comunità alla stessa maniera.

Per arginare il problema è stato introdotto XCheck, che affida al controllo umano alcuni post identificati dagli algoritmi come in violazione. I contenuti sottoposti a questo doppio controllo, incrociato per l'appunto, non vengono subito rimossi come accade normalmente ma vengono mantenuti in attesa fino a che qualcuno li esamini.

E sul controllo incrociato, l'Oversight Board ha individuato varie lacune. "Il Board riconosce - si legge nel rapporto - che Meta è un'azienda, tuttavia, fornendo protezione ulteriore a determinati utenti soprattutto sulla base di interessi aziendali, il controllo incrociato consente a contenuti che altrimenti verrebbero rapidamente rimossi di rimanere visibili più a lungo, con il rischio potenziale di causare danno".

Inoltre, aggiunge il Board, "Meta non ha monitorato i dati per stabilire se il controllo incrociato porti effettivamente a decisioni più attendibili e abbiamo espresso preoccupazione per la mancanza di trasparenza in merito al programma". Per cui a Meta è stato "consigliato" di dare priorità alle espressioni importanti per i diritti umani, anche quando sono di rilevanza pubblica, di adottare misure per mitigare i danni causati dalla permanenza dei contenuti sottoposti a ulteriore controllo, e di aumentare drasticamente la trasparenza dei propri sistemi.

Nel controllo incrociato di Meta, quindi, il Board ha individuato diverse lacune, nelle seguenti "aree fondamentali":

• Trattamento impari degli utenti - il controllo incrociato assicura a determinati utenti maggiore protezione rispetto ad altri. È ciò che si spiegava sopra: i post degli utenti comuni vengono eliminati immediatamente e senza verifica umana, quelli degli utenti presenti sugli elenchi del controllo incrociato invece rimangono online in attesa del verdetto umano. "Questa iniquità di trattamento - ha scritto il Board - è particolarmente preoccupante considerata l'assenza di criteri trasparenti in merito agli elenchi del controllo incrociato di Meta. [...] Gli utenti i cui contenuti potrebbero essere importanti dal punto di vista dei diritti umani, come giornalisti e organizzazioni della società civile, hanno a disposizione percorsi meno chiari per accedere al programma".
• Rimozione ritardata dei contenuti in violazione - Meta ha riferito al Board che possono trascorrere più di cinque giorni prima che si decida sui contenuti degli utenti presenti sugli elenchi del controllo incrociato. Di conseguenza questi contenuti rimangono su Facebook e Instagram nel momento in cui sono maggiormente virali e potenzialmente pericolosi.
• Mancato monitoraggio delle metriche principali - le metriche utilizzate attualmente da Meta per determinare l'efficacia del controllo incrociato sono inadeguate a rilevare tutte le principali criticità.
• Mancata trasparenza sul funzionamento del controllo incrociato - le poche informazioni fornite al pubblico e agli utenti da parte di Meta impedisce al Board e al pubblico di comprendere appieno le conseguenze del programma.