L'Europa vieterà le AI per sorveglianza e valutazione sociale dei cittadini

15 Aprile 2021 210

L'Unione Europea è da sempre molto attenta al tema dell'intelligenza artificiale, al punto di essersi già dotata di un codice etico che le ha permesso di cominciare a definire le linee guida entro cui un'AI può essere considerata legale. Si tratta di un passaggio molto importante per il futuro, dal momento che la regolamentazione anticipata di uno strumento così potente e pervasivo può permettere di evitare che si creino scenari dalle conseguenze inattese, persino al limite del distopico.

D'altronde solo 10 anni fa nessuno poteva immaginare il ruolo cruciale assunto oggi dagli algoritmi che regolano le interazioni nella rete e l'importanza della protezione dei dati personali, tutti elementi considerati quasi marginali in passato, ai quali non si è dato il giusto peso e attenzione prima che divenissero la merce di scambio delle più grandi corporazioni del mondo tech.

Sembra proprio che l'Europa non si sia fermata ad una semplice dichiarazione di intenti ma, stando a quanto emerge da un report di Politico, pare che stia per prendere una posizione netta su alcuni aspetti fondamentali collegati al mondo delle AI: la sorveglianza indiscriminata e l'istituzione dei cosiddetti sistemi di credito sociale.


Secondo quanto emerso dalla prima bozza di un documento che dovrebbe essere annunciato la prossima settimana, la UE intende adottare una posizione di netto rifiuto verso l'utilizzo dell'intelligenza artificiale per scopi che possano includere sistemi di sorveglianza e di classificazione dei cittadini, ponendosi in netta contrapposizione rispetto a quanto permesso in Cina e, in misura minore, negli Stati Uniti.

La base da cui si parte è quella fornita dal GDPR, la cui implementazione ha permesso all'Europa di essere l'unica regione al mondo in cui è in vigore un rigido sistema di tutela della privacy del singolo cittadino. La bozza prevede che gli Stati Membri si dotino di gruppi di studio e valutazione che possano testare e confermare l'effettivo livello di rischio delle varie implementazioni dell'intelligenza artificiale, mentre sono previste sanzioni - sino al 4% dei ricavi globali - per tutte quelle aziende che svilupperanno o commerceranno software AI considerato illegale in Europa. I principali punti della bozza sono i seguenti:

I PUNTI PRINCIPALI DELLA BOZZA
  • Vietate tutte le AI che attuano sorveglianza indiscriminata, incluse quelle che tracciano direttamente gli individui nello spazio fisico o tramite l'aggregazione di dati da varie fonti
  • Vietate le AI che creano dei sistemi di credito sociale, ovvero quelle che giudicano l'affidabilità dell'individuo sulla base di un comportamento sociale o dell'analisi dei tratti personali
  • Occorrono autorizzazioni speciali per l'utilizzo di "sistemi di autenticazione biometrica in remoto", come ad esempio il riconoscimento facciale in aree pubbliche
  • Le persone devono ricevere notifica esplicita del fatto che stanno interagendo con un'AI, tranne nei casi in cui "sia chiaramente esplicito che sia così"
  • Maggior attenzione per i sistemi AI ad alto rischio, come ad esempio quelli che possono minacciare in maniera diretta la sicurezza. Tra questi rientrano la guida autonoma e tutti quelli che hanno una grossa possibilità di influenzare in qualche modo la vita del singolo, come sistemi automatizzati di valutazione per l'assunzione, eventuali decisioni giuridiche e sistemi di credito sociale
  • Valutazione dei sistemi AI ad alto rischio prima che questi vengano messi in funzione, incluso l'accertarsi che siano facilmente spiegabili ad un eventuale sorvegliante umano e che utilizzino dei dati "di alta qualità" che possano prevenire discriminazioni
  • La creazione dell'European Artificial Intelligence Board, in cui saranno presenti i rappresentanti di tutti gli Stati-nazione per aiutare la Commissione a valutare quali AI debbano essere classificate ad alto rischio e per suggerire eventuali modifiche ai divieti
C'È ANCORA AMPIO MARGINE DI MIGLIORAMENTO

Il documento emerso presenta quindi un buon punto da cui partire per assicurarsi che l'Europa si doti di un sistema preventivo nei confronti di tutti gli eventuali scenari critici causati dall'uso eccessivo delle AI, ma sembra comunque presentare ancora diversi margini di miglioramento. Ricordiamo che parliamo sempre di una bozza, ma i primi commenti al testo sembrano indicare nell'Articolo 4 il principale punto debole del testo, poiché presenta termini troppo vaghi per descrivere i tipi di AI proibite. Probabilmente occorrerà una revisione o un aggiornamento del documento affinché possa risultare più efficace.


Daniel Leufer, analista delle politiche europee presso Access Now, intervistato da The Verge sul tema ha evidenziato i punti deboli di questa sezione. Ad esempio viene fatto notare che è molto difficile stabilire quali AI possano effettivamente "generare opinioni o prendere decisioni dannose per le persone": in che modo uno Stato dovrebbe legiferare per stabilire cosa sia dannoso e cosa no?

Leufer ritiene anche che le attuali indicazioni riguardo i sistemi di sorveglianza e di credito sociale sino sin troppo morbide, visto che vengono usate definizioni (come quella di affidabilità) troppo specifiche e quindi facilmente aggirabili. La bozza ha trovato anche delle reazioni positive, come quelle di Michael Veale (docente di diritti e legislazione digitale all'University College di Londra), il quale ha affermato che questo nuovo regime legislativo potrebbe garantire che gli strumenti di sorveglianza e valutazione basati sulle AI offrano un adeguato livello di supervisione da parte di un essere umano (quindi che non siano eccessivamente automatizzati) e valuta positivamente che vengano stabiliti degli standard qualitativi elevati per la commercializzazione e l'adozione di questi strumenti.

Il testo finale dovrebbe essere presentato come proposta di legge il 21 aprile e nel frattempo è possibile che la bozza abbia già ricevuto diverse revisioni. Attendiamo quella data per sapere con più precisione quale sarà la posizione finale dell'Europa sul tema. Intanto ci fa piacere constatare che - sebbene non priva di imperfezioni - la strada tracciata sia quella della tutela della collettività.


210

Commenti

Regolamento Commentando dichiaro di aver letto il regolamento e di essere a conoscenza delle informazioni e norme che regolano le discussioni sul sito. Clicca per info.
Caricamento in corso. Per commentare attendere...
kasperbau

Usare i tuoi dati, abitudini, gusti per campagne diffamatorie, stalking, tentativi di truffe reiterate, estromissione da qualsiasi contesto sociale, farti licenziare.
Se pensi sia fantascienza, sappi che dipende solamente da quanto pagano per rovinarti la vita, e c'è gente, molta più di quanto pensi che per guadagnare qualche € da la qualunque.

Boronius

Beh, stai facendo un discorso relativamente qualunquista, ad esempio il mondo moderno ha portato l'inquinamento, nel mondo antico ne avevano quasi zero.

Internauta

Tutti seguiamo il progresso, ma ogni progresso non vuol dire che sia la scelta giusta perchè nel tempo si può rilevare un regresso.
Devi anche guardare i progressi temporali nell'evoluzione umana e che risultati hanno portato.
Progressi come l'uso del fuoco o la creazione di una ruota sono enormi progressi. Io parlo dell'ultima epoca dell'uomo, quella industriale ossia l'inizio di dare a delle macchine dei compiti che prima facevamo noi con il nostro corpo (risparmiando tantissima energia).
Da quel momento, l'uomo ha sviluppato un'ossessione per sostituire la natura con creazioni tutte di derivazione umana per "servire" l'uomo.
E' come l'esempio di quello che successe più di 500 milioni di anni fa, quando i procarioti, ugualmente ossessionati dal "meccanizzare" le attività biochimiche, si fusero alla fine all'interno di membrane plasmatiche dando origine agli eucarioti. I procarioti ovviamente, persero ogni totale libertà.
Avverrà anche per l'uomo, se non sarà fermato da qualcosa. Vedrai.

italba

Ci sono anche parecchi criminali milionari, eh...

Everything in its right place.

Io in realtà ho dei dubbi su 'sta cosa. Se stai cercando un criminale latitante avere un sistema di ricerca basato sul riconoscimento facciale a livello europeo avrebbe molto senso. (che poi basta mettersi una mascherina per eluderlo). Cioè non vedo un dramma francamente. L'Europa non è la Cina: si tratterebbe di un uso ad hoc da parte della polizia dei vari stati aderenti. Se uno stato non acconsente ad un uso verificato non avrebbe o perderebbe accesso alla piattaforma.

The Evil Queen

Invece l’omertà non manca mai.

TeoCrysis

Non ci sono più le mezze stagioni

DicoIo

il mondo è bello perché è vario

DeeoK

Che pessimismo, questo è realismo. La uno, la due e la quattro sono vere già oggi.

sk0rpi0n

La soluzione alla criminalità non potrà mai dipendere da sistemi che cercano di risolvere a dei danni che la società in cui viviamo ha già fatto (videosorveglianza, carceri, potenziamentoo delle forze dell'ordine, ecc); l'unico modo di debellare il problema alla radice è con l'istruzione ed il livellamento della disuguaglianza sociale.

DicoIo

e non c'è progresso giusto o sbagliato eh...al max il giusto o lo sbagliato è l'applicazione di tal progresso.

non si sceglie su cosa si va avanti, si sceglie se andare avanti.

DicoIo

io invece seguo il corso degli eventi( o il progresso se preferisci)

un giorno uno ha preso il fuoco, ha cotto la carne e gli altri gli avran detto: ma cosa fai l'abbiamo sempre mangiata cruda...

un giorno uno ha scolpito una pietra rotonda e l'ha fatta rotolare e qualcuno gli avrà detto. ma cosa vuoi che serva...

vuoi che vada avanti? ogni giorni qualcuno fa qualcosa e qualcun'altro dirà il contrario....

io seguo il progresso.

DicoIo

ci hai fatto la vacanzina e pensi di sapere tutto, classico

era bello il resort?

DicoIo

scusa, non rispondevo a te ma ad un altro.
f i c t

DicoIo

e dire un bel poker di sì è pessimismo estremo.

io sono ottimista e vivo bene.

buona strada a te, ciao

DeeoK

Un bel poker di sì a tutte e 4 le domande, probabilmente.

In ogni caso, dire "ci sono altri problemi" è benaltrismo di bassa lega.

SteDS

L'ultima volta ho letto due dei suoi commenti postati a distanza di qualche ora. Ha guadagnato due anni da un commento all'altro. Ora, calcolando che sono passati alcuni giorni qui stiamo parlando di decenni! Con questo ritmo entro l'anno prossimo avrà vissuto in Cina per 5 millenni buoni, mica male

Ocram

Ogni tanto fanno una cosa decente in UE

Alexv

Si dice anche (tradotto): prenditi solo i vantaggi, che tanto gli svantaggi vengono da soli.

Alexv

Quello che fanno i mafiosi lo sanno tutti, solo che Stato e cittadini preferiscono non guardare. Penso che un'AI italiana prenderebbe la stessa piega o chiederebbe di cambiare lavoro.

Alexv

Detto in modo semplice, in base alla tua vita privata e le tue attività online, o meglio in base ai dati raccolti su di esse, sei una persona affidabile o no. Sia per lo Stato che per le aziende / banche / assicurazioni / datori di lavoro / vicini / ecc...

Alexv

Sempre il solito esempio.
"Occorrono autorizzazioni speciali per l'utilizzo di "sistemi di autenticazione biometrica in remoto", come ad esempio il riconoscimento facciale in aree pubbliche"
Si può usare nel corso di un'indagine.

Daniel Ocean

Credimi non si capisce proprio che sei la stessa persona, figurati...

masked?who

proprio come fanno i cinesi bastardi

Internauta

La gente è stata educata fin dall'antichità a ostentare la propria vita in pubblico. C'è a chi piace e a chi no.
E' sempre stato così, e oggi è sempre così, solo che lo si fa attraverso uno schermo che hanno più o meno tutti.
Domani se a queste popolazioni gli dai un cavo da mettersi nel cervello per entrare in una sorta di matrix e ostentare così la propria bellezza lo farà.
Questo quindi è il punto, non ci sono freni, inutile girarci intorno, e questo a tantissimi fa paura, e quando hai paura neghi, infatti se tu dici queste cose alle persone la maggior parte della gente ti dice che non è così che il progresso è giusto e altre balle.
Progresso è una bella parola, poi però bisogna vedere come viene interpretata.
Non sono contro i miglioramenti, ma sono contro il voler allontanarsi totalmente dal mondo naturale.
Opzionale esempio: in giappone, stanno tentando di creare delle api robot, per sostituire le api vere. Questo è un tipico esempio di come per l'uomo questa è la soluzione ma che in realtà è una regressione. L'uomo crea problemi e cerca di risolverli a modo suo, sbagliando ulteriormente.

DicoIo

non si devono permettere, manco per sogno

ohu non fatelo se no scoppia un casino

ah, vedo che mi avete dato retta e non lo fate...paura eh...

voglio prendere qualche upvote anche io

DicoIo

altrettanto

basta che non dai più titoli senza motivo

Kilani

Ottima decisione. Così ci piaci.

Buon pomeriggio.

DicoIo

probabilmente ti stai confondendo.

Kilani
Internauta

Si, migliaia e anche di più, cosa pensi che un paesaggio cambi in un centinaio di anni?
I cambiamenti di cui tu parli non puoi osservarli in così poco tempo, qualsiasi studente/scienziato/professore di scienza della natura ti risponderà così.
Parliamo di popolazioni nuove che vengono introdotte in ambienti controllati si, ma comunque rischioso e inutile visto che, come sto cercando di spiegarti, esistono già piante selezionate artificialmente ma senza modifiche del codice genetico con strumentazione scientifica. E inoltre ti ho parlato dell'esistenza di vegetali antichi che possono essere introdotti nuovamente nell'ambiente.
I libri che hai citato non li conosco, gli darò un'occhiata.

Internauta

1) ok
2) La parola "progresso" non mi disturba, è il modo con cui viene interpretato che mi turba assai. Senza frigo riuscivo comunque a conservare i vegetali con tecniche particolari (uso di sabbia per i tuberi, assenza di luce, paglia, acqua, panni etc.). Poi 5 anni dopo affittai la casa e ci misero un frigo dandomi del pazzo a vivere senza.
3) Ma hai presente come sono le metropoli umane? Definirle fogne è un complimento. "Passeggiare" mi sembra utopia in una metropoli. Hai presente quando ti trovi in una zona realmente selvaggia per migliaia di chilometri quadrati? Ti sembra che il paesaggio sia come quella di una metropoli? Ti sembra di poter sentire centinaia di odori diversi? Ti sembra di poter vedere forme di vita di ogni aspetto svolgere le loro attività? Perchè a me sembra di essere sommerso in un caotico vortice di rumori disturbanti, con una vista di persone, persone e solo persone e muri di cemento, odori malsani e staticità degli ambienti.
4) diciamo di si.

DicoIo

com'è la terra dallo spazio?

Daniel Ocean

Temo tu sia scienziato tanto quanto io sia astronauta.

Massimo

ci ho vissuto 2 anni te?
tranquillamente a camminare io e mia moglie di notte alle 2 nei vicoli piu bui della cina
non riesci a trovare una persona trasandata che gira di notte manco se ti impegni al massimo qualche vecchietto innocente
0 drogati 0 magrebini
ma visto che ci sei stato dovresti saper benissimo come sono messi

peyotefree

e chi l ha detto ? vivi in Cina ?
io ci sono stato in Cina..

quello che dici tu sono solo statistiche elergite dalla propaganda del Partito.

ah,i primi delinquenti (verso l ambiente) sono proprio i politici

Fabrizio

Quello è impossibile, è troppo importante anche solo per l'automotive in Europa. Ma vedere tutti quei punti su richieste/permessi/notifiche aggiuntive spaventa un po'.
Certo sempre meglio di finire come in Cina, ma la fissa sulla cyber security dei tedeschi potrebbe tenere l'Europa col freno a mano tirato

boosook

La miglior spiegazione per capire come sarà la vita della gente con i crediti sociali è guardarsi l'episodio "Caduta libera" di Black Mirror (il primo della terza stagione).

The Evil Queen

Con tutti i criminali che ci sono in giro che vengono lasciati liberi dopo una sculacciata, non mi sarei aspettato altro.

DicoIo

bene, bella correzione hai fatto, insinui, a torto che minaccio e poi, subito dopo, difendi chi minaccia...

DicoIo

ohu, qua c'è gente che tiene alla privacy, come ti permetti!?!?!

DicoIo

quindi al punto 1 preferisci avere, ad esempio, prima un eventuale attentato con decine/centinaia di vittime rispetto ad un arr3sto (chissà perché lo scrivi così) preventivo basato su riprese/prove/segnalazioni? bene...

Desmond Hume

Mi sembra sensato, il grande fratello 2.0 lasciamolo ai cinesi.
Ora scendo a leggere i commenti, spero di finire in pochi minuti prima che Kamehame si faccia altri anni di permanenza in Cina.

ca

Il colmo è che segnalano i miei commenti

Massimo

io sacriferei volentieri un po della mia privacy in cambio di strade senza delinquenza senza mai sentirsi in pericolo (sopratutto le donne)
non aver paura di camminare per strada di notte e via dicendo
ma purtroppo preferiamo vivere cosi...

ca

Questo articolo si è riempito di tr0lletti/segnalator1.
Che sia ora di fare pulizia?

ca

C'è qualche burlone che mi segnala i commenti come sp4m

1)Prima di fare queste leggi ideologiche è necessario far capire alla gente COSA l'AI può fare e cosa NON può fare.
Ad esempio: un principio fondamentale è per me quello che le persone NON devono poter essere arr3state PRIMA di aver commesso un reato. NESSUNA AI potrà mai prevedere con precisione un reato, si può solo prevedere che in una ampia zona probabilmente ci sarà un tipo di reato (e bisogna evitare che a tal fine vengano usati dati palesemente NON correlati al fenomeno, tipo faccia/colore pelle/ecc). E' bene che la gente capisca cosa è apprendibile, cosa non lo è, cosa è una previsione e quanto precisa può essere in base alla complessità del fenomeno da analizzare.

2)Per quanto riguarda la sorveglianza, per me bisogna distinguere i sistemi real time da quelli che archiviano.
-Sistema AI real time che permette al vigile di individuare la posizione di Tizio => NO
-Sistema AI che analizza le immagini su richiesta del magistrato, a partire da video archiviati per un breve periodo di tempo => SI

3)Proibire il sistema di crediti è corretto.

4)Maggiore attenzione alla guida autonoma NON significa assolutamente NULLA,
vogliamo proibire la guida autonoma come gli OGM per paure irrazionali? Vogliamo che ogni anno muo1ano un sacco di persone in incidenti stradali potenzialmente evitabili per problemi "etici"? Preferiamo che muo1ano migliaia di persone piuttosto che accettare che muo1ano molte meno persone, ma con una piccola probabilità che qualcuno venga sacrificato di proposito per massimizzare le vite salvate in un incidente?

DicoIo

tanto ci sono le vpn

Marcomanni

Intendi dire che certe scelte vengano fatte per far in modo che mafiosi e politici corrotti possano continuare i loro porci comodi???
Ma basta con le str0nz4t3! Si sa che ci tengono alla nostra praivaci e basta!!!

Massimo

quello cinese e molto simile a quello americano delle carte di credito ( creditore buono/cattivo)
quello che parlano tutti i media occidentali sara stato sperimentato in qualche piccola citta
ovviamente poi e tutto stato ingigantito in maniera paurosa 1 piccola citta = tutta la cina

Recensione Huawei Band 6: eleganza in formato slim

Snapdragon 888 vs Exynos 2100: qual è il migliore?

Echo 4° generazione vs Nest Audio: quale scegliere? Tutte le differenze

Il confrontone 2021: Galaxy S21 Ultra vs iPhone 12 Pro Max, Find X3 Pro e Mi 11 5G