Twitch ricorrerà al machine learning per identificare utenti che cercano di aggirare eventuali ban inflitti dal proprietario/moderatore di un canale. L'ha annunciato la piattaforma di streaming posseduta da Amazon nelle scorse ore: il tool/algoritmo software si chiamerà Suspicious User Detection, e non esprimerà certezze assolute: solo possibili casi di violazione, che andranno poi verificati da moderatori o proprietari del canale. Twitch dice che questo sistema dovrebbe aiutare a combattere fenomeni come per esempio gli hate raid, in cui un gruppo di utenti/troll si organizza per andare a disturbare con insulti e altri comportamenti molesti determinati canali.

L'algoritmo userà due sfumature per catalogare gli utenti:

• Probabile troll: i messaggi di questi utenti non verranno mostrati in chat, ma saranno visibili a proprietari e moderatori, che potranno decidere come comportarsi. Una delle opzioni per esempio è includerli in una speciale lista di utenti sorvegliati (comparirà anche un'icona apposita a fianco del nickname)
• Possibile troll: i messaggi di questi utenti saranno invece pubblicati in chat, ma i moderatori e i proprietari saranno comunque notificati e potranno sempre monitorarli, bannarli o approvarli.

Suspicious User Detection, powered by machine learning, is here to help you identify and restrict suspected channel ban evaders from chatting before they can disrupt your stream.

Learn more here: https://t.co/01cCwnQZfw pic.twitter.com/QWVSnRPg1X

— Twitch (@Twitch) November 30, 2021

Suspicious User Detection sarà attivo per default su tutti i canali, ma potrà essere disattivato; sono anche previste delle opzioni per renderlo più o meno aggressivo. Twitch spiega che il tool è stato messo a punto anche in risposta a richieste ben specifiche della community: i creatori e i loro moderatori hanno espresso a più riprese la fatica a distinguere utenti veri da troll e piantagrane. Il sistema potrebbe rivelarsi piuttosto efficace, soprattutto calcolando che lavorerà anche in tandem con un'altra regola introdotta da poco - quella di richiedere una verifica via telefono o email per partecipare alla chat. Questa limitazione è opzionale, interamente a discrezione dello streamer.

Almeno, sulla carta: resta naturalmente da capire quanto preciso sia l'algoritmo, e lì non si potrà fare altro che aspettare la prova sul campo. Al momento non abbiamo dettagli sulle tempistiche.