Lo scorso ottobre un'enorme e improvvisa ondata di disinformazione ha invaso i feed di Facebook. Non su tutti, ma su un numero rilevante di flussi di post si è verificato il contrario di quanto dovrebbe avvenire: invece di declassare i contenuti contrassegnati come non attendibili dai supervisori di Facebook, quindi di ridurne la portata, il sistema che sta dietro il feed (che da febbraio si chiama proprio feed, non più news feed) ne ha incrementato la visibilità globale anche del 30%. Sono stati "spinti" in maniera immotivata e illogica.

La notizia arriva dai colleghi di theverge.com, che a loro volta citano un documento circolato in Facebook. I tecnici al soldo di Meta hanno passato giorni senza capire le ragioni per le quali il feed del social avesse perso la testa, fino a quando l'11 marzo, sei mesi dopo, è stata trovata una soluzione. Ma c'è di più: il documento interno al social di Meta evidenzia che durante il picco di disinformazione anche altri contenuti che normalmente vengono declassati hanno ottenuto al contrario maggiore visibilità.

E non si tratta di roba da poco: contenuti violenti, probabili nudi, "persino i media statali russi"; per cui una volta che ci si è accorti del momento di "follia" del feed i dipendenti del social hanno contrassegnato il problema con SEV di livello uno, un'etichetta che viene affibbiata ai problemi di natura tecnica ad alta priorità. Un portavoce di Meta contattato da The Verge, Joe Osborne, ha cercato di ridimensionare l'accaduto:

[Facebook] ha rilevato incongruenze nel downranking in cinque diverse occasioni, correlate a piccoli e temporanei aumenti delle metriche interne. Abbiamo individuato la causa in un bug del software e abbiamo applicato i correttivi necessari. [...] Il bug non ha avuto un impatto significativo o a lungo termine sulle nostre metriche.

Il portavoce ha anche precisato che il bug non ha interferito sui contenuti che il sistema riteneva di dover eliminare, come a dire che il problema non ha insistito sui contenuti che andavano rimossi dalla piattaforma, e non declassati, com'è sempre avvenuto. The Verge ha chiesto un parere sulla vicenda a Sahar Massachi, ex componente del team Civic Integrity di Facebook.

In un sistema (automatizzato, ndr) grande e complesso come questo, i bug sono inevitabili e comprensibili. Ma cosa accade quando in un'enorme piattaforma social si presenta uno (o più di questi) bug accidentali? E come potremmo accorgercene? Abbiamo bisogno di vera trasparenza per costruire un sistema di responsabilità sostenibile, affinché possiamo aiutare le piattaforme a notare queste anomalie nel più breve tempo possibile.