Alexa: parti dell'audio acquisito vengono esaminate dai dipendenti di Amazon

11 Aprile 2019 164

Gli assistenti digitali necessitano di un software di riconoscimento vocale per interpretare ed eseguire i comandi. Tale interfaccia digitale dovrebbe essere l'unico destinatario delle frasi che l'utente indirizza all'assistente, ma ciò non è sempre vero: a volte l'ascoltatore è umano. Un recente rapporto di Bloomberg contribuisce a far chiarezza su un tema che risulterà meritevole di attenzione da parte di chi è sensibile ai temi della privacy e guarda tuttora con un po' di diffidenza un altoparlante smart sempre in ascolto. Alexa e Amazon sono i principali (ma non gli unici) protagonisti della storia.

SCOPO DICHIARATO: MIGLIORARE L'ESPERIENZA UTENTE NEL RISPETTO DELLA PRIVACY

Una copia dell'audio acquisito da Alexa (tramite uno dei dispositivi che la supportano, a partire dalla gamma Echo) viene inviato a dipendenti di Amazon, trascritto ed annotato. Lo scopo è migliorare gli algoritmi di riconoscimento vocale. Ad ammetterlo è un portavoce del colosso dell'e-commerce, che pone subito l'accento sulle misure adottate per prevenire una violazione della privacy dell'utente:

Prendiamo molto seriamente i temi della sicurezza e della privacy dei nostri utenti. Annotiamo solo porzioni molto limitate delle registrazioni vocali di Alexa al fine di migliorare l'esperienza utente.

E ancora:

I dipendenti non hanno accesso diretto alle informazioni che permettono di identificare la persona o l'account. Tutte le informazioni sono trattate con elevata riservatezza ...

SINO A 1.000 CLIP AUDIO ASCOLTATE IN TURNI DA 9 ORE

Un controllo umano sulla corrispondenza tra il comando impartito dall'utente e quello recepito dal sistema può risultare effettivamente più efficace rispetto a quello svolto da un software. A tal fine Amazon impiegherebbe, secondo Bloomberg, una forza lavoro, distribuita negli uffici di Boston, in Costa Rica, in India e in Romania. Gli addetti all'analisi delle porzioni di audio, dice la fonte, possono esaminare sino a 1.000 clip audio in turni di 9 ore.

EFFETTI COLLATERALI

Gli aspetti che suscitano alcune perplessità però non mancano:

  • Amazon, al di là della dichiarazione esplicita fornita a Bloomberg, è piuttosto vaga nel dichiarare come vengono utilizzate le registrazioni vocali. Nelle FAQ ufficiali si legge: utilizziamo le richieste che fai ad Alexa per migliorare i nostri sistemi di riconoscimento vocale e di comprensione del linguaggio, ma non si fa espressamente riferimento ad un intervento umano.
  • La fonte riporta alcuni risvolti del lavoro compiuto dai dipendenti di Amazon
    • In un caso due dipendenti hanno ascoltato una registrazione che sembrava riconducibile ad una presunta violenza sessuale, ma gli è stato detto che sarebbe stato inopportuno intervenire
    • I dipendenti hanno a disposizione un servizio di chat interno per discutere tra loro delle clip audio in caso di dubbi nell'interpretarle. A volte però i file vengono semplicemente condivisi per puro divertimento
    • Alexa, fisiologicamente, è progettata per registrare l'audio solo a seguito dell'attivazione del comando "Alexa", ma talvolta la registrazione avviene per errore anche senza tale comando e i dipendenti umani sono tenuti a trascriverla (ogni addetto può trascriverne sino 100 al giorno).
AMAZON NON E' L'UNICA. PRATICHE ANALOGHE ANCHE PER APPLE E GOOGLE

Il report di Bloomberg è molto dettagliato sull'operato di Amazon, ma sottolinea che anche Apple e Google adottano pratiche analoghe per migliorare i rispettivi assistenti digitali, Siri e Assistant. Più nel dettaglio:

  • Apple: le registrazioni sono depurate da informazioni personali. Vengono archiviate per sei mesi e legate ad un identificatore casuale; successivamente un'altra copia sprovvista di tale identificatore viene tenuta in archivio sino a due anni per consentire ad Apple di migliorare lo sviluppo di Siri. I dettagli sono contenuti in un memo consultabile a questo indirizzo.
  • Google: Alcuni dipendenti possono accedere a brevi porzioni dell'audio acquisito dall'Assistente per migliorare il prodotto. L'audio, anche in questo caso, non permette di associare all'utente alcuna informazione personale e viene distorto.
LA COMODITA' HA UN PREZZO

Che qualcuno ascolti le registrazioni audio acquisite dagli assistenti digitali è un dato di fatto con il quale gli utenti devono convivere. Le rassicurazioni sulle misure adottate per rendere quanto più possibili anonimi questi dati non mancano, ma ciascuno dovrebbe effettuare un'analisi costi/benefici in relazione all'utilizzo degli assistenti digitali e rispondere alla domanda: prevalgono i vantaggi (tra i tanti, la comodità di gestire il proprio sistema domotico tramite semplici input vocali) o gli svantaggi (essere potenzialmente esposti al rischio che parti della propria quotidianità vengano ascoltate e registrate)? E' un interrogativo che diventa più attuale man mano che si moltiplicano i tentativi per rendere sempre più onnipresenti tali entità digitali (supportate da personale umano). Per restare in casa Amazon, si ricordano i recenti rumor sullo sviluppo degli auricolari stile AirPods con supporto ad Alexa.


164

Commenti

Regolamento Commentando dichiaro di aver letto il regolamento e di essere a conoscenza delle informazioni e norme che regolano le discussioni sul sito. Clicca per info.
Caricamento in corso. Per commentare attendere...
Francesca Atzori

Che poi minimo sono i primi che accettano tutto senza leggere i disclaimer. Rotfl.

Francesca Atzori

Secondo me se Snowden leggesse I vostri commenti sulla privacy violata dai dispositivi iot (e non da tutto il resto), si sganascerebbe dalle risate.

Depas

“Dire che non mi interessa la privacy perché non ho niente da nascondere è come dire che non mi interessa la libertà di parola perché non ho nulla da dire”

boosook

Ma che me frega se un indiano ascolta me che chiedo a Alexa le previsioni del tempo o di mettere un certo pezzo su Spotify. Poi ognuno faccia i suoi conti a seconda di quello che dice ad Alexa. Comunque, c'è un tasto per inibire il microfono apposta...

Giorgio

Convinto te contenti tutti

TLC 2.0
DeeoK

Sì, certamente, ma non per limite tecnologico ma per mancanza di volontà delle aziende.

bobbu

Come il retro un qualsiasi Honor huawei cangiante

SuperDuo

Basta questa risposta per far capire che non sai di che parli.

Giorgio

Basta dire ok Google per provare uno senza spendere 1 lira

sagitt

alexa con HA è valido, ma alexa è sempre online. Pure io uso alexa ma homekit è 10 spanne sopra.

pax2011

Si esatto, io ho esposto solo su Alexa

sagitt

home assistant espone su alexa, ghome e homekit.

pax2011
sagitt
pax2011

Homeassistant sta sopra anche al creatore

MimmoD1

certo ma l'articolo parla di altre tecnologie, per mettere i puntini sulle i diciamo che assistenti vocali smart che non ledono la privacy non credo esistano come anche dispositivi pseudo domotici che richiedono la posizione il che non ha senso ecc

AC MILAN

Si vabbè ciao

DeeoK

Eppure sono probabilmente il 90% della tua comunicazione.

takaya todoroki

altrimenti?

takaya todoroki

non deve essere disattivabile dev'essere disattivato.
Tu manco lo sapevi che era attivo prima di leggere quest'articolo, genio.

takaya todoroki

sono i "nichilisti della privacy" categoria di persona dalla vista corta, dalla memoria debole, e soprattutto che non hanno mai letto un libro di storia in vista loro ;)

takaya todoroki

Peccato che conti unicamente l'impostazione predefinita.

takaya todoroki

quello che dici in quei frammenti audio può far riferimento a nomi e cognomi.

Claudio M.

Tutti che si scandalizzano...mah,per cosa poi,la privacy non esiste,dal momento che venite denunciati in comune per essere nati, ciao ciao

Dale

Cmq leggere i commenti qui è sempre uno spasso, persone che scrivono non avendo capito che le clip audio inviate sono solo quelle registrate dopo il comando "Alexa".
La cosa più divertente è che tutti sono disposti anche a regalare la propria mamma a Google senza battere ciglio, ma non appena "azienda != Google" raccoglie dati, si stracciano le vesti urlando allo scandalo.

DeeoK

Certamente, ma come detto ci sarebbe anche il modo di garantire una certa privacy pure con dipendenti in carne ed ossa in ascolto. È una questione di volontà (che manca perché alle multinazionali non frega nulla e gli utenti fanno spallucce).

MimmoD1

Beh mail è messaggistica non mi sembrano tecnologie all'avanguardia

DeeoK

Sì e no: di alcuni servizi è possibile. Per le mail ci sono provider attenti alla privacy, idem per le app di messaggistica e provider di ricerca.

Horatio

https://media2.giphy.com/me...

SuperDuo

Se la vedi così... Sono però sicuro che non ne hai mai provato uno e che scrivi per luoghi comuni.

maxforum

ok, ho segnato un promemoria per domani alle 6.54 di guardare il calendario

maxforum

ho detto 12... leggi bene

Giorgio
Giorgio

Ma che crociata? Per ora sono solo delle cacate inutile che servono per spennare polli beta tester

Alessio Ferri

Non tutti usano internet allo stesso modo furbone.

Alessio Ferri

Come vuoi, però io so cos'è la privacy

Francesco

Specie no razza

Francesco
Francesco

Cimici 4.0

Roberto

Sono utente android da eclair ma la cosa mi fa inc*azzare comunque parecchio

emmeking

Secondo me dovrebbe assolutamente, essere avvertito l'utente di questa cosa, ma siamo seri, va bene l'IA, ma come credete che possa proseguire una tecnologia del genere senza l'intervento umano? Se le clip audio non possono in alcun modo essere riconducibili all'utente sinceramente non vedo il problema, la voce potrebbe essere di chiunque, molto peggio sarebbe invece l'impiego di immagini acquisite per esempio da telecamere di sorveglianza IoT.

matteventu
qandrav

ahahahahahah anche peggio agagagagahahahah

Giulk since 71'

Si esatto, capita un pò a tutti

Max

Maddai.......

matteventu
Max

Che colore ?

matteventu

Il "anche senza il comando vocale Alexa" é un concetto sbagliato.
Quando fanno così, é perché per errore credono di aver sentito "Alexa".

Max

È vero che non si possono associare le tracce audio agli utenti, ma è aberrante che questi sentano i c4zz1 nostri costantemente...

Android

Recensione Samsung Galaxy Tab S9 Ultra 5G: un ulteriore passo in avanti! | VIDEO

Apple

iPhone 15 Pro Max vs 14 Pro Max: tutte le differenze e le nostre impressioni | VIDEO

HDMotori.it

Fiat 600e, ecco come va il nuovo B-SUV elettrico | Video

Tecnologia

Recensione Ecovacs Deebot X2 Omni: si fa quadrato ma pulisce a tutto tondo | VIDEO