Riconoscimento facciale contrario ai diritti umani: il ban di Amnesty International

26 Gennaio 2021 172

Il riconoscimento facciale pare diventare sempre più un problema che una risorsa, mal digerito da parte della popolazione preoccupata della violazione della sua privacy e del rischio di fenomeni di discriminazione razziale. Si chiama Ban The Scan l'ultima iniziativa lanciata sul web ed è destinata a fare parecchio rumore, considerato che è frutto del lavoro di Amnesty International.

L'organizzazione chiede il divieto di utilizzare il riconoscimento facciale a New York, definendo la tecnologia su cui si basa "incompatibile con i diritti di base sulla privacy" e pericolosa in quanto rischia di influenzare negativamente l'attività della polizia. "Anche New York deve vietare il riconoscimento facciale, così come hanno fatto altre grandi città negli Stati Uniti", spiega Matt Mahmoudi, ricercatore di Amnesty International. Il riferimento va alla città di Portland, l'ultima città USA in ordine di tempo ad aver vietato l'utilizzo di tecniche di riconoscimento facciale su tutto il territorio comunale, sia della Polizia, sia di privati come negozi e alberghi. Nel 2019 anche i cittadini di San Francisco erano stati chiamati a dare il loro parere sullo strumento di identificazione: il voto ha portato al divieto da parte della Polizia di utilizzare qualsiasi forma di tecnologia di riconoscimento facciale in tutta la città.

Amnesty International vuole evitare un altro caso Williams, cittadino di Detroit incarcerato ingiustamente dopo che il sistema di identificazione facciale DataWork Plus lo ha riconosciuto colpevole di aver rapinato un negozio di orologi. Peccato che il Sig. Williams si trovasse da tutt'altra parte durante l'increscioso evento. E, come questo, di casi analoghi ce ne sono centinaia, sino ai più recenti casi che hanno infiammato l'America negli ultimi mesi.


Il malumore è in crescita a New York, e ad Amnesty si stanno affiancando altre organizzazioni e movimenti cittadini. Con Black Lives Matter sullo sfondo, gli equilibri sociali negli Stati Uniti sono oggi più che mai estremamente labili, e solo l'idea che le forze dell'ordine possano sfruttare (leggasi: abusare) dei sistemi di riconoscimento facciale crea forti malumori. "Il divieto del riconoscimento facciale non protegge solo i diritti civili: è una questione di vita o di morte", spiega Albert Fox Cahn, direttore esecutivo del Surveillance Technology Oversight Project.

"Il riconoscimento facciale è stato impiegato 22.000 volte a New York dal 2017", si legge sul sito Ban The Scan. "La tecnologia può amplificare la discriminazione razziale e mina il diritto di protesta. Viene sviluppata sfruttando milioni di immagini dai profili dei social media senza autorizzazione".

Il sito (link in FONTE) verrà utilizzato per sensibilizzare la popolazione sull'argomento, nonché per raccogliere testimonianze e denunciare discriminazioni. Darà voce alla protesta, con la possibilità di scrivere messaggi alla Polizia di New York per cercare di convincerla ad abbandonare questo sistema di controllo.


172

Commenti

Regolamento Commentando dichiaro di aver letto il regolamento e di essere a conoscenza delle informazioni e norme che regolano le discussioni sul sito. Clicca per info.
Caricamento in corso. Per commentare attendere...
giovanni cordioli

Lo vedrei bene in Italia dove da decenni il problema più grosso sono le migliaia di
pluri pregiudicati recidivi e impuniti.
Negli stati uniti invece, o altri posti dove ti becchi decine di anni di carcere per reati che da noi comportano a mala pena una multa e te li fai tutti, mi pare eccessivo ed inutile.

trakers

Hai ragione, distinguere i volti non è razzista in se per se.
Il problema ha origine dal dataset utilizzato per fai imparare l'IA.
Se usassi un dataset che comprende tutte le tipologie di carnagione e tutte le tipologie dei lineamenti, allora l'IA potrebbe non avere questo bias razzista ma il problema è che la maggiorparte delle IA è americana ed è stata istruita con il solito dataset di volti in cui la maggioranza è bianca e caucasica
per cui se all'IA dai in pasto una foto di una persona con carnagione scura o asiatica questa non ti da risultati così precisi come se gli facessi analizzare una foto di un "bianco".
Questo problema è all'origine di una marea di arresti di persone nere innocenti in america.
Questo è un esempio nel New Jersey:
https : // www. nbcnews. com/news/us-news/black-man-new-jersey-misidentified-facial-recognition-tech-falsely-jailed-n1252489
Oppure questo a Ditroit:
https :// eu . freep . com /story/news/local/michigan/detroit/2020/07/10/facial-recognition-detroit-michael-oliver-robert-williams/5392166002/

trakers

Dipende dal dataset utilizzato per fai imparare l'IA. Se usassi un dataset che comprende tutte le tipologie di carnagione e tutte le tipologie dei lineamenti, allora l'IA potrebbe non avere questo bias. Il problema però è che la maggiorparte delle IA è americana ed è stata istruita con il solito dataset di volti in cui la maggioranza è bianca e caucasica.
Per lo stesso motivo, in Cina hanno i propri dataset che vanno bene solo per loro.
Non potresti infatti usare la loro IA per riconoscere le persone europee

Rendiamociconto

ps qui non è stato automatico, non si parla di automatico, non si parla di sorveglianza ma di identificazione

Rendiamociconto

ah quindi ora per l'analisi del dna o l'identificazione via video/foto ci vuole un tribunale? Le indagini partono solo su approvazione del tribunale?
Prima di parlare di democrazia funzionante sai come funziona un'indagine, pm e co?

TeoCrysis

No, cambia se è automatico o se è su richiesta con approvazione di un tribunale, cambia tutto (se sei in una democrazia funzionante).

Rendiamociconto

se pacifica nessuno può arrestarti....strano la costituzione che scrive che diritti e che doveri hai dice il contrario.

Inoltre io non ho detto che mi va bene qualunque schiavitù a me venga imposta...ho detto che quello che puoi fare e quello che non puoi fare è scritto, non è quello che ti è permesso fare è in base a quello che ti va di fare o ritieni giusto....cioè non coincide con quello che puoi scegliere di fare che scegli tu: ma se scegli di fare qualcosa che non ti è permesso fare ne accetti le conseguenze perchè come uomo libero puoi scegliere quello che vuoi, ma come cittadino hai diritti e doveri e non li scegli tu.

Just.In.Time

Se non ci arrivi che sia un fatto inaccettabile, al di là di quello che la legge (pagine scritte da uomini sempre modificabili), per ogni essere umano libero, allora ti va bene qualunque schiavitù a te venga imposta.
Stica se il prefetto non la autorizza, se pacifica nessuno può arrestarti.

Rendiamociconto
la notizia che era un probabile criminale è trapelata e per tutto il tempo delle verifiche quell'uomo è stato centro di insulti e cattiverie


dove è successo questo, link?

oltre a sentirsi malissimo psicologicamente per quella situazione assurda

è un fermo di polizia per un probabile crimine, non credo che l'obiettivo di questo sia far sentire bene psicologicamente il diretto interessato...

Rendiamociconto

inaccettabile da chi? Vedi che non tutti i paesi hanno la stessa costituzione...anche da noi in italia se il prefetto non autorizza la manifestazione questa è illecita.

Rendiamociconto

ma è già così ora, non cambia nulla, patenti e carte di identità e passaporti, sono già un archivio di volti e spostamenti da cui si attinge per l'identificazione ....quello che cambia ad esso ripeto con questo uso è il matching tra archivio e rilevazione, con ai (oggi e futuro) con software manuale/operatore in passato e oggi.
Non cambia cosa e con chi e per chi viene fatto ma in parte come e con che performance.

HdBfs

Ahahahah sei un pagliaccio fantastico

csharpino

Mi stupisce visto che probabilmente la tua maggiore lettura sono i numeri di telefono per scambisti che leggi nei cessi dell'autogrill mentre li pulisci.

xpy

Nel caso di governo dittatore la privacy non esiste comunque e anche ipotizzando una nazione priva della minima videosorveglianza nel giro di 6 mesi/ 1 anno il riconoscimento facciale sarebbe presente ovunque

HdBfs

Ahahahah mai letto un cumulo di stronzate così grande qua dentro

salvatore esposito

la tecnologia tutta è un'arma a doppio taglio, il riconoscimento facciale avrebbe il vantaggio di localizzare subito un malvivente sfuggito alla legge ma di contro c'è la questione privacy... impedire l'uso di determinate tecnologie perché tizio potrebbe usarla per scopi dannosi può essere riportata a qualsiasi cosa.
cloud è utilissimo ma espone dati ad essere rubati, il sito bancario è comodissimo ma c'è sempre il rischio del phising... tutto a pro e contro, se stiamo a guardare ogni cosa, dovremmo abbandonare pure l'acqua calda

TeoCrysis

Ma esiste un archivio di volti e spostamenti già preregistrati da cui possono attingere? Perché in quel caso non sono d'accordo, finirebbe col diventare una prassi utilizzarlo per tutto in pochi anni.

Just.In.Time

Inaccettabile che protestare sia illecito.

Just.In.Time

Cosa c'entra questo con ciò che ho affermato? Il riconoscimento facciale in ogni luogo è il punto della discussione, non la tecnologia in generale.

Just.In.Time

Infatti, ma è uno strumento potente che può essere usato bene o male; e in ogni caso annulla ogni diritto di privacy e questo non va bene; Mi spaventa più un governo dittatore che i presunti "terroristi".

xpy

Quelli non sono paesi democratici, il riconoscimento facciale è solo uno strumento che può essere usato bene o male, altrimenti ci si dovrebbe lamentare anche delle armi da fuoco in mano alla polizia

csharpino

Quindi non so tu calcoli a mano la somma delle celle di una tabella di Excel perchè Excel è stato programmato da un uomo e l'uomo può sbagliare i calcoli??
Per il riconoscimento facciale non esistono razze o colori della pelle, esistono sequenze di 1 e 0. Se sbaglia il riconoscimento con le facce nere è un bug non razzismo e se lo sbaglia perchè il programmatore razzista ha fatto in modo che sbagliasse in base al colore della pelle il razzista è il programmatore non il sistema.
Infine in che modo l'eliminare i riconoscimenti facciali limiterebbe i problemi del razzismo? Se non lo fai con un sistema automatico un riconoscimento ti devi affidare a quello fatto dalle persone che nella maggior parte dei casi a differenza di un sistema automatico non sono testabili per stabilire il loro grado di accuratezza.

Riccardo Revilant

Si ma il punto non è solo quello...la notizia che era un probabile criminale è trapelata e per tutto il tempo delle verifiche quell'uomo è stato centro di insulti e cattiverie...oltre a sentirsi malissimo psicologicamente per quella situazione assurda. Certe cose non devono accadere.

salvatore esposito

ma io parlo della tecnologia sviluppata che ha un utilità, non affibi la colpa del cliente al produttore.
è come se si accusasse il produttore di corde perché uno tizio ha soffocato un altro

Luca Ansevini

Certamente. Infatti trovo sia assurdo che ci si muova per l'arresto preventivo. Se questa persona non avesse avuto un valido alibi? Sarà che ho letto troppi libri e articoli di persone che hanno perso anni di vita in carcere ingiustamente.

salvatore esposito

allora buttiamo via tutta la tecnologia e andiamo a fare campeggio

salvatore esposito

se il governo cinese la usa per quello, non può essere di chi ha sviluppato la tecnologia

Rendiamociconto

ma la vicenda in esempio è esattamente quanto hai scritto con l'unica differreza nel matching, ad oggi prendevi quel frame video e partivi a cercare chi fosse incrociando database , chiedendo in giro con la foto,interrogazioni e perdendo tempo...con questa invece la ai lo fa in molto meno tempo

TeoCrysis

Come per le videocamere di sorveglianza, non puoi a caso visionarle tutte senza un motivo... è giusto così. Se c'è un indagine puoi usare quei software, come già fanno, per trovare un criminale, ma non profilare chiunque in maniera preventiva perché si finisce in una brutta china, dai non chiudiamo noi gli occhi, non finisce bene quando chiunque può essere messo sotto controllo senza bisogno di indagini approvate.

Rendiamociconto

ma è quello che è successo

il discorso più che giusto di preservare la gente dalla macchina schiacciasassi della giustizia e di come si possa anche pilotare per colpire persone innocenti.
Per esempio si possono camuffare le persone abbastanza bene, considerando che oramai tutti vanno in giro mascherati, per prendere in giro tale riconoscimento.
Per me si potrebbe lasciare anche tutto così ma a livello legale non poterle usare, serviranno per l'investigazione che alla fine traccerà movimenti e troverà prove concrete ma non per puntare il dito su nessuno.
E ovviamente, la gestione dei dati deve essere sotto stretto controllo...l'uo sotesso monitorato a dovere.


Il fermo non è stato convalidato, dopo verifiche il tizio è risultato innocente ed è tornato libero senza nemmeno andare a processo e dimostrarlo.

Madfranck

forse non hai ben capito cosa sia la vidieoSORVEGLIANZA. e' ben diversa dal riconoscimento facciale AUTOMATICO ovvero computerizzato.

Rendiamociconto

per te, per i cinesi sono terroristi.
E in Cina ci vivono e decidono i Cinesi.

Rendiamociconto

mica ho scritto che non lo sono, ho scritto che sono a favore.
Anzi rischi pure di prendere sberle una coltellata a pechino se parli male della loro politica e dei diritti umani, ti dico di più mi sono pure preso un paio di sputi dopo che hanno sorriso. Russia e Cina sono due cose totalmente ma totalmente diverse, non a caso La Cina va a gonfie vele mentre la Russia ....qua la gente è rimasta a stalin ancora.

Madfranck

la macchina della verita' negli usa non puo' essere utilizzata come prova.

trucido

È rivolta esclusivamente per la popolazione musulmana... È una cosa estremamente aberrante... Guarda le pressioni che stanno facendo contro la Turchia per l estradizione di tali popoli...

Riccardo Revilant

Secondo me il problema grosso è che la tecnologia non è matura abbastanza per non dare falsi positivi, questo introduce il discorso più che giusto di preservare la gente dalla macchina schiacciasassi della giustizia e di come si possa anche pilotare per colpire persone innocenti.
Per esempio si possono camuffare le persone abbastanza bene, considerando che oramai tutti vanno in giro mascherati, per prendere in giro tale riconoscimento.
Per me si potrebbe lasciare anche tutto così ma a livello legale non poterle usare, serviranno per l'investigazione che alla fine traccerà movimenti e troverà prove concrete ma non per puntare il dito su nessuno.
E ovviamente, la gestione dei dati deve essere sotto stretto controllo...l'uo sotesso monitorato a dovere.

Gabriele

ormai sono mentalmente plagiati

Rendiamociconto

chissà perchè quando vengono in europa anche per 1-2 anni o per vacanza di qualche settimana anche su una spiaggia con 30 m/s di vento e senza roba elettronica addosso continuano a non voler essere contrari

Gabriele

beh, che i cinesi siano a favore del loro sistema mi pare un pò eccessivo, diciamo che non possono dire di essere contrari

Rendiamociconto

totalmente inesatto e fuori contesto
Perchè non parlare allora della pena di morte degli stati uniti?
Sbagliato allora condannare una persona per omicidio se puoi potrebbe essere condannata a morte per legge, liberi tutti

Rendiamociconto

toh guarda un po' in russia proprio recentemente è successo e con riconoscimento facciale e infatti hanno arrestato decine e decine di migliaia di persone.....e la manifestazione era illegale perchè non autorizzata dal questore, ma è legale manifestare contro il governo per costituzione repubblicana! incominciamo con le favolette di pseudo dittatura inesistente, allucinante, avrei potuto capire le altre due nazioni vicine bielo e ucra ma così.

Se in Cina invece è illegale che c'entra il riconoscimento facciale se il problema è ben altro? Problema per noi visto che i cinesi sono a favore del loro sistema

Rendiamociconto

ma quale problema? Nel tuo contesto che non ci riguarda e di cui non abbiamo alcuna legittimità nel parlarne il problema è chi controlla non lo strumento con cui lo fa: in cina il problema è il fatto che non sia permesso manifestare contro il governo e non che si usi il riconoscimento facciale. Poi problema per chi? qualche italiano su hdblog? Interessante visto che in Cina vivono i cinesi ed è stato sovrano.

La storia insegna ma va studiata: le dinamiche e le politiche culturali cambiano, domani arriva tizioacaso e si impone con la forza?
Non è possibile per costituzione, neanche con la forza nella repubblica italiana.
Quindi cade la repubblica italiana, la costituzione è carta straccia, idem legge, diritto e istituzioni e te pensi veramente che il problema sia uno strumento come il riconoscimento facciale?

Rendiamociconto

ti sfugge magari che li è illecito quindi reato?
Mi sa che sei te ignori un po di cose

Rendiamociconto

veramente in questo caso è stato usato per indagini specifiche e non nella videosorveglianza

Alexv

Non puoi paragonarlo con delle indagini specifiche. Implementarlo nella videosorveglianza vuol dire tracciare tutti i tuoi spostamenti. Che è diverso dall'usarlo per visionare dei video specifici.

Mario Busso

Grazie

Just.In.Time

Vai in cina e poi ne riparliamo... sai quanti sono stati arrestati o uccisi per proteste contro il governo? non lo sai, altrimenti non avresti risposto cosi.

Just.In.Time

Ora immagina di essere in cina o russia dove possono arrestarti anche solo per protesta contro il governo dittatore che hanno...

Just.In.Time

Vallo a dire ai cinesi o russi che ora sono in galera con l'unica accusa di aver protestato contro il dittatore in carica....

talme94

Non posso nemmeno più scrivere cose omofobe che arriva la cancel culture :(

24H con Oppo Find N2 Flip, la sfida a Samsung è servita | VIDEO

Abbiamo provato i nuovi Galaxy Z Fold4 e Z Flip4, ecco le novità! | VIDEO

Copertura 5G, a che punto siamo davvero? La nostra esperienza in città

Spotify, Apple Music e gli altri: chi vincerà sul ring dello streaming musicale?