Ai titoli "macchina batte uomo" ci stiamo ormai abituando a tal punto che quasi non fanno più notizia. Discorso opposto, invece, quando il titolo è del tipo "uomo batte macchina". E proprio in questi giorni questa cosa è accaduta a San Francisco dove, stando a quanto riportato dal Financial Times, un giocatore dilettante di Go, Kellin Pelrine, è riuscito a battere un'intelligenza artificiale sfruttando una tattica che era stata elaborata, a sua volta, da un altro computer.

Un "uomo batte macchina", quindi, con una leggera riserva anche se lo scontro diretto in cui Pelrine ha vinto 14 partite su 15 è stato effettuato senza nessun supporto diretto del computer. Quanto accaduto, ovviamente, evidenzia il fatto che in qualsiasi sistema di intelligenza artificiale, anche quelli più utilizzati, possono esserci delle debolezze.

Le tattiche utilizzate per battere il computer sono state elaborate da un programma sviluppato dalla società di ricerca californiana FAR AI. Il software, pensato per sondare i sistemi di intelligenza artificiale alla ricerca di punti deboli, ha giocato oltre 1 milione di partite contro KataGo, uno dei migliori sistemi addestrati per il gioco strategico Go, riuscendo a trovare un "blind spot" che potesse essere sfruttato dal giocatore umano. Il software ha anche scoperto un metodo per vincere contro Leela Zero, un altro sistema istruito per giocare a Go.

La tattica usata da Pelrine consisteva nel mettere insieme lentamente un grande "anello" di pedine per circondare uno dei gruppi di quelle del suo avversario virtuale, distraendo poi l'IA con mosse in altri angoli del goban, il tavolo di gioco. L'IA non avrebbe notato questa strategia, nemmeno quando l'accerchiamento era quasi completo. Secondo Pelrine, invece, un essere umano si sarebbe facilmente accorto della tattica.

Questa vittoria arriva a distanza di ben sette anni dalla prima dell'intelligenza artificiale. Nel 2016, infatti, un sistema ideato dalla società di ricerca di proprietà di Google DeepMind, AlphaGo, aveva sconfitto il campione mondiale di Lee Sedol per quattro partite a uno. Tre anni dopo Sedol annunciò il suo ritiro affermando che l'intelligenza artificiale era "un'entità che non poteva essere sconfitta”. Anche se AlphaGo non è disponibile pubblicamente, il sistema KataGo viene considerato praticamente alla pari.

Secondo quanto affermato da Stuart Russell, professore di informatica presso l'Università della California, la scoperta di queste vulnerabilità indica un difetto fondamentale nei sistemi di deep learning che sono alla base delle IA più avanzate. I sistemi, infatti, possono "capire" solo situazioni specifiche a cui sono stati già esposti in passato ma non sono in grado di generalizzare in un modo che gli umani troverebbero più facile.

Lightvector, lo sviluppatore di KataGo, ha ovviamente iniziato ad addestrare il sistema per evitare che in futuro questa tattica possa essere ancora utilizzata.