Google: petizione interna contro lo sviluppo di AI militare. Prime dimissioni di protesta

15 Maggio 2018 189

Aggiornamento 15/05

Alcuni dipendenti della società si stanno licenziando in segno di protesta; stando a quanto riporta Gizmodo, ad oggi sono almeno "una dozzina", e una parte di essi ritiene che la dirigenza sia diventata meno trasparente nella discussione con la forza lavoro. Google ha sempre invitato i dipendenti al dibattito e alla critica (costruttiva) delle scelte ai piani alti, mentre ora pare che l'opinione dei lavoratori stia passando in secondo piano.

Post originale - 05/04

Google e il Dipartimento della Difesa degli Stati Uniti hanno dato il via, lo scorso anno, ad una collaborazione che sta ricevendo molte critiche interne da parte degli stessi dipendenti di Mountain View, tra cui diversi ingegneri di alto profilo. Parliamo dello sviluppo di Project Maven, un'iniziativa del Dipartimento della Difesa che ha lo scopo di utilizzare una AI per riconoscere automaticamente gli oggetti ripresi dai droni di sorveglianza, sfruttando le competenze maturate da Google nel campo del Machine Learning. Questo permetterà di migliorare notevolmente la capacità di tenere sotto controllo oggetti e veicoli e riportare tutti i dati necessari al Dipartimento.

Oltre 3000 dipendenti della società di Mountain View hanno firmato una petizione, resa pubblica dal The New York Times, indirizzata direttamente a Sundar Pichai - potete trovare il testo integrale in Fonte - nella quale si esprime preoccupazione per le implicazioni di Project Maven e in cui si chiede l'immediata cancellazione del progetto e la stesura di una dichiarazione pubblica in cui Google garantisce che né la società né i suoi appaltatori si dedicheranno mai allo sviluppo di tecnologie belliche.

Si tratta di una presa di posizione dura e particolarmente sentita dai firmatari, i quali evidenziano diversi aspetti negativi in questa collaborazione. Primo tra tutti l'irrimediabile danno d'immagine che potrebbe derivare da tutto ciò. Google è al momento impegnata a conquistare e mantenere la fiducia dei suoi utenti - specialmente in questo periodo in cui la privacy è un tema centrale - e l'ingresso nel settore militare potrebbe accostare il buon nome di Google ad altri brand non molto ben voluti, come Palantir, Raytheon e General Dynamics, tutte società attive nel campo della difesa.

Il tema dell'utilizzo delle AI a scopo militare è particolarmente delicato. Per molte società potrebbe essere un business redditizio, ma saranno pronte a farsi carico delle responsabilità che ne derivano?

La petizione smorza sul nascere anche qualsiasi tentativo di giustificare questo business sulla base delle azioni dei concorrenti, dal momento che i dipendenti ritengono che "anche se altre società come Microsoft e Amazon hanno scelto di prendervi parte, questo non significa che non rappresenti un rischio per Google". Importante anche il richiamo allo storico motto Don't be Evil e al credo della società "Ogni singolo utente ripone la sua fiducia in noi. Per nessun motivo va messa a rischio. Mai!", sottolineando che questo appalto con il governo USA mette in discussione e si oppone ai valori fondanti di Google.

L'aspetto più importante, tuttavia, riguarda la responsabilità morale e gli stessi firmatari avvertono Pichai del fatto che:

Non possiamo delegare alle terze parti la responsabilità morale delle tecnologie che creiamo.

Una frase particolarmente efficace che mette in luce il reale problema che circonda Project Maven. Nonostante Diane Greene, a capo della sezione Google Cloud, abbia affermato che Maven non verrà utilizzato allo scopo di gestire direttamente i droni e non si occuperà di lanciare armi di alcun tipo, limitandosi quindi ad un ruolo di analisi di ciò che viene ripreso dalle telecamere, i dipendenti Google non sono convinti che questo sia sufficiente. Una volta che la tecnologia verrà completata e fornita alla Difesa, questa potrà utilizzarla facilmente per assistere e guidare proprio i pochi compiti esclusi dalla Greene, ed è proprio sotto quest'ottica che avviene il richiamo alla responsabilità morale.

L'impiego di intelligenze artificiali in ambito militare è un tema estremamente caldo e spinoso e un corposo numero di dipendenti di Google vuole fortemente che la propria società resti fuori da questo campo. Le implicazioni etiche e morali sono innumerevoli, specialmente quando chi dovrebbe partecipare a questa discussione è un ente privato così fortemente coinvolto con la vita e la privacy di centinaia di milioni di persone sparse per tutto il globo. Sarà interessante scoprire quale sarà la reazione di Sundar Pichai, a cui spetta l'ultima parola sulla vicenda, alla petizione interna emersa nelle ultime ore.


189

Commenti

Regolamento Commentando dichiaro di aver letto il regolamento e di essere a conoscenza delle informazioni e norme che regolano le discussioni sul sito. Clicca per info.
Caricamento in corso. Per commentare attendere...
gian luca Tagliarini

Sempre il solito cane che si morde la coda. Se NESSUNO avesse un esercito si troverebbe comunque una scusa per istituirne uno. Il mondo è pieno di inetti decerebrati pronti ad indossare una divisa perche u'idere e combattere sono le uniche cose, a parte eseguire ordini brutali ed insensati, che sanno fare. Dovremmo rinchiudere queglu asociali paicopatici non mettergli in mano un arma.

Piereligio

I cookie possono essere caricati a prescindere dall'account Google

Tizio Caio

guarda che lo fanno ancora oggi così

Godzilla

Si si ok

Godzilla

Argomenti specifici mai cercati su Google o YouTube.
Controllato anche le registrazioni di Google.

Anselmo

Hanno permesso 70 anni di democrazia che senza di loro semplicemente non ci sarebbero stati questi sono fatti. Comunque il mondo rimane pieno di paradisi che si sottraggono al dominio capitalista. Corea del nord Cuba Venezuela cecenia incredibilmente posti dove nessuno vuole andare a vivere e tutti cercano di scappare

Boronius

E hanno instaurato il loro dominio capitalistico e gli italiani giù tutti a pecora

Piereligio

Mbè, i video consigliati dipendono dai tuoi interessi, che vengono stimati principalmente in base a ciò che guardi su YouTube stesso. Non c’entra niente con quello che ascolta durante il giorno, a meno che Lapp google rilevi falso positivo di ok google e faccia partire il riconoscimento vocale

Salvatore Giordano

Io avrei fatto lo stesso

Salvatore Giordano

Si ma credo che la maggior parte non vuole lavorare a scopo militare. Non diciamo cavolate e poi l'opinione pubblica rihalterebbe Google.

Salvatore Giordano

Quella é follia dai.. se volete convincervi da soli fatelo pure, ma sono sciocchezze

Godzilla

Non direi proprio, video consigliati su YouTube su argomenti specifici, di cui non si è mai fatta una ricerca sul browser, poco dopo averne parlato. Quando capita una volta ok, quando vedi che inizia a diventare la regola..

Piereligio

In realtà lo sanno tutti. È necessario per forza di cose per rilevare “okay google”. Ciò che però viene salvato è solo ciò che segue il comando vocale

Godzilla

No, tranquillo, ridiamoci pure sopra, tanto ormai.

Max

Infatti di Apple mi fiderei un paio di milioni di volte più che di Google

Jonh

tanto lo fanno lo stesso, una volta buttavano bombe su bombe a casaccio e c'erano molti più danni collaterali di quelli che servivano realmente

Chirurgo Plastico

Ma si, tempo 1 settimana e tutti si sono dimenticati di questa storia.
Guardate Facebook, i nostri governi e ditemi se i "danni di immagine" hanno avuto conseguenze per loro

EnclaveUS

Grazie mille! :) Lo trovo un argomento interessantissimo! E come dici tu il risalto che ha come argomento è davvero bassimo!

Luca

Agli inizi del '900 una gruppo di matematici ha cominciato a studiare i sistemi dinamici e le loro caratteristiche: stabilità, risposta a stimoli esterni e disturbi, punti di equilibrio e tante altre cose. Una volta ottenuti risultati di analisi, si sono chiesti come poter agire in maniera artificiale per far si che questi sistemi si comportassero in un modo prestabilito. Nasce così la "teoria del controllo" e quindi l'industria comincia a diventare più automatizzata, gli aerei volano con maggiore sicurezza e tanto altro. Purtroppo è un ramo dell'ingegneria a cui si da poco risalto mediatico ma è praticamente alla base di qualsiasi cosa, dalle lavatrici agli impianti nucleari.
Per approfondire puoi cercare "Controllo automatico", "Stabilità Lyapunov" e "Controllo PID".

EnclaveUS

Non riesco figurarmi un esempio, di che controllo automatico (teorico?)si trattava in Russia negli anni 50? Controllo dello spazio aereo?

Enrico Dunghi

no no possono solo insegnare :) PURTROPPO che miserie

R4nd0mH3r0

https://uploads.disquscdn.c...

Enrico Dunghi

Vero ma in questo caso vale un po "il tutto il mondo è paese", Purtroppo

Nickever Professional™

Perché come funziona sentiamo

Godzilla

Pensate quando verrà fuori ufficialmente che Google ti ascolta in ogni momento della giornata tramite il microfono dello smartphone.. Non capisco come mai non sia ancora di dominio pubblico..

LaVeraVerità

La storia della mia vita.

Federico

Nono, hai capito benissimo.
Io sono un fautore delle Crociate.

Federico

Dici che otterrai un qualche risultato? :)

Anselmo

Ti aggiorno brevemente hanno sconfitto i fascisti ed hanno impedito l'instaurazione di uno stato totalitario comunista.

Boronius

Ah, gli USA operano a nostro vantaggio?? L' Europa stessa opera a nostro vantaggio?? Ci hai dato una news inaspettata

Boronius

E poi tutti giù a tirare mërda su Microsoft mentre le schifezze stanno altrove

Ngamer

"ha lo scopo di utilizzare una AI per riconoscere automaticamente gli oggetti ripresi dai droni di sorveglianza"

secondo me siamo gai ben oltre queste cose

Juanito82

Ma no!
Il problema sono i barconi e gli sbarchi!
Oppure i 100 milioni di euro di pensioni d'oro ai parlamentari.
Però chi evade è un dritto e va imitato

broncos7

Si certo, quello sicuro, il mio voleva essere solo una sottolineatura sulla non etica di queste società a prescindere da questa vicenda

SteDS

Non voglio entrare in discussioni politico-sociali però in Italia la sanità è gestita a livello regionale, se quella lombarda è più efficiente è perchè gestita meglio, dovrebbero essere gli stessi campani a farsi due domande sulla loro amministrazione locale anzichè parlare di "razzismo sanitario"

Accapi

Sembra ironia ma non ne sono sicuro...

apps accaunt

Se lo dite voi....

Dr. Freudstein

Sono una dozzina di smidollati patetici. Dovrebbero essere orgogliosi di contribuire a mantenere la totale supremazia militare americana, da cui dipende la stabilità è il benessere di ogni Nazione.
Se non lo fanno gli Stati Uniti allora lo farà il criminale il regime cinese, e non certo a nostro vantaggio.

SteDS

Secondo me hai ragione, però bisogna anche distinguere la società Google (ladra come i compagni di merenda Apple, Amazon, ecc.) e i dipendenti che hanno firmato la lettera proprio perchè in contrapposizione con le decisioni della società.

Maurizio Mugelli

al massimo possono aggiungermi un altro asterisco accanto alle varie sottolineature sul nome...

Vash

ciccio, la miglior difesa è l'attacco, e non fu un americano a dirlo (ah la milza, keddolore... ogni volta che penso al latino, maremma majala)

Vash

avete scoperto l'acqua calda.... la spesa militare è la piu lucrosa industria che ci sia in qualsiasi stato (a parte il tibet, che non è uno stato e che non gliene puo' frega' di meno di armarsi) ti pare che il piu' grosso colosso del web si lasci sfuggire una torta cosi lauta? gli azionisti bisogna pur remunerarli bene scusa... e poi guardassimo acasa nostra dove le banche COI NOSTRI SOLDI, finanziano materiale bellico per ogni dove, casso.

antonio

Con abbondanti capitali...

antonio

Come non dargli torto

antonio

Mi sembra logico che dopo aver attaccato di devi difendere... Giusto? (Ironico)

Samuele Capacci

Cristiano? Dannazione ancora con ste religioni. Comunque non è molto bello quello che hai detto, forse ho capito male.

apps accaunt

In un mondo "a posto" dove se hai 1.000.000.000.000 di dollari non ti serve averne 1.500.000.000.000 sarebbe molto sano ed intelligente ascoltarli...

Luca

Che ridere mi fanno ste cose oh!

apps accaunt

Che poi..al solito sempre tutto deciso da una manciata di persone...miserabili e veramente di livello infimo aggiungo

apps accaunt

Che poi già sono stati dei geni a chiamarlo ministero della DIFESA....

Tecnologia

#HDonAir Come lavoriamo da casa: le nostre postazioni | Live oggi ore 17.00

Mobile

Coronavirus e 5G: rischi reali e fake news, facciamo chiarezza | Video

Android

Cambiate smartphone ogni anno? Riprova Mate 20 Pro: 18 mesi e non sentirli

Mobile

Spesa online: la nostra esperienza a Bergamo, Milano, Roma, Reggio Emilia e Palermo