‘ Alexa, stai invadendo la mia privacy?’- il lato oscuro dei nostri assistenti vocali
Un giorno nel 2017, Alexa è andato canaglia. Quando Martin Josephson, che vive a Londra, è tornato a casa dal lavoro, ha sentito il suo assistente vocale Amazon Echo Dot sputare fuori comandi frammentari, apparentemente basato sulle sue interazioni precedenti con il dispositivo. Sembrava rigurgitare le richieste di prenotare i biglietti del treno per i viaggi che aveva già preso e per registrare programmi televisivi che aveva già visto. Josephson non aveva detto la parola scia – “Alexa” – per attivarlo e nulla ha detto lo avrebbe fermato. Era, dice, “kafkiano”.
Questo è stato particolarmente interessante perché Josephson (non il suo vero nome) era un ex dipendente Amazon. Tre anni prima, si era offerto volontario di sedersi in una stanza recitando una serie di frasi apparentemente senza senso in un microfono per uno scopo non divulgato. Solo quando Amazon ha rilasciato l’Echo negli Stati Uniti in 2014 si è reso conto di cosa stava lavorando. Ha comprato un Dot, il modello più economico e più piccolo di Echo, dopo che è stato lanciato nel 2016, e l’ha trovato abbastanza utile fino al giorno in cui è andato in tilt. Quando lo sfogo del Dot si placò, lo scollegò e lo depositò nel bidone. ” Mi sentivo un po ‘sciocco”, dice. “Avendo lavorato in Amazon e avendo visto come usavano i dati delle persone, sapevo che non potevo fidarmi di loro.”
Il Dot non doveva comportarsi come un sergente istruttore dadaista. Poi di nuovo, assistenti vocali spesso fanno cose che non dovrebbero fare. L’anno scorso, un cliente Amazon in Germania è stato erroneamente inviato circa 1.700 file audio da Echo di qualcun altro, fornendo informazioni sufficienti per nominare e individuare lo sfortunato utente e la sua ragazza. (Amazon ha attribuito questo “sfortunato incidente” all’errore umano.)
A San Francisco, Shawn Kinnear ha affermato che la sua Eco si è attivata e ha detto allegramente: “Ogni volta che chiudo gli occhi, vedo solo persone che muoiono.”A Portland, Oregon, una donna ha scoperto che il suo Echo aveva preso su di sé per inviare registrazioni di conversazioni private a uno dei dipendenti del marito. In una dichiarazione, Amazon ha detto che l’Eco deve aver sentito male la parola scia, sentito male una richiesta di inviare un messaggio, sentito male un nome nella sua lista dei contatti e poi sentito male una conferma per inviare il messaggio, il tutto durante una conversazione su pavimenti in legno. Non benissimo, Alexa.
La tecnologia ispira spesso l’ambivalenza: sappiamo che Facebook e Google sanno troppo di noi, eppure continuiamo a utilizzare i loro servizi perché sono così dannatamente convenienti. Gli assistenti vocali, tuttavia, sono insolitamente polarizzanti. Le persone che li considerano sinistri e invasivi (me compreso) considerano gli appassionati come compiacenti, mentre coloro che li trovano utili e benigni vedono gli scettici come tecnofobi paranoici. C’è una domanda piena di problemi più grandi sul nostro rapporto con l’industria tecnologica: dovresti lasciare Alexa nella tua casa?
Nel mese di gennaio, vice-presidente senior di Amazon di dispositivi, David Limp, ha rivelato che la società aveva venduto più di 100m dispositivi Alexa-enabled. L’anno scorso negli Stati Uniti, dove un adulto su cinque possiede un assistente vocale a casa, Alexa aveva una quota di mercato del 70% degli Stati Uniti, rispetto al 24% dell’assistente Google. È quindi nella posizione migliore per diventare ciò che Shoshana Zuboff, nel suo bestseller, The Age of Surveillance Capitalism, chiama “Una sola voce”: l’ecosistema dominante che darebbe al suo operatore”la capacità di anticipare e monetizzare tutti i momenti di tutte le persone durante tutti i giorni”. Zuboff chiama la nascita di Alexa “un evento di soglia”.
Alexa, tuttavia, è cresciuta in un’epoca di crescente scetticismo sul potere e la moralità delle “big five” aziende tecnologiche: Amazon, Apple, Facebook, Google / Alphabet e Microsoft. Eventi come le perdite di Edward Snowden e lo scandalo Cambridge Analytica hanno offuscato le promesse utopiche della Silicon Valley. Gli amministratori delegati hanno meno probabilità di banalizzare i problemi di privacy. I giornalisti tecnologici hanno maggiori probabilità di essere critici rispetto alle cheerleader. I politici sono più disposti a tenere conto delle aziende.
Quest’anno è stato particolarmente difficile. Negli ultimi sei mesi, Bloomberg, the Guardian, Vice News e il canale di notizie belga VRT hanno gradualmente rivelato che tutti i big five hanno utilizzato appaltatori umani per analizzare una piccola percentuale di registrazioni di assistenti vocali. Sebbene le registrazioni siano anonimizzate, spesso contengono informazioni sufficienti per identificare o mettere in imbarazzo l’utente, in particolare se ciò che sentono sono informazioni mediche riservate o un nastro sessuale involontario. Le rivelazioni sono state l’ultima goccia per molti scettici Alexa. “Viviamo in una tecno-distopia di nostra creazione. Se hai ancora un Alexa o qualsiasi altro assistente vocale nella tua casa, sei stato avvertito”, ha scritto lo scrittore di Gizmodo Matt Novak.
Dopo aver lavorato presso Amazon e un’altra società big-five, Josephson pensa che questa resistenza a queste aziende sia giustificata. “Hanno zero interesse, a mio parere, nel chiedersi quale sarà l’impatto di quei prodotti. Trattarli come le persone giuste per esercitare quel potere è una situazione ridicola che non permetteremmo in nessun altro settore. Loro, francamente, non sono custodi sicuri dei dati che stanno raccogliendo ogni giorno senza che noi lo sappiamo.”
Il controllo vocale ha conquistato per la prima volta l’immaginazione pubblica negli anni ‘ 60, tramite HAL 9000, il computer senziente in 2001: Odissea nello spazio e il computer infinitamente utile della nave stellare Enterprise in Star Trek. Quest’ultimo è stato un importante punto di riferimento per i team che hanno sviluppato Echo di Amazon e l’Assistente Google. ” La luce brillante, la luce splendente, che è ancora molti anni di distanza, molti decenni di distanza, è quella di ricreare il computer di Star Trek”, ha detto Limp a un pubblico della conferenza nel 2017.
Nel mondo reale, il riconoscimento vocale non è diventato un luogo comune fino a quando Apple ha lanciato il suo assistente vocale basato sul telefono, Siri, nel 2011. Alexa va molto oltre colonizzando la casa dell’utente. Tre decenni fa, il preveggente informatico Mark Weiser chiamò questo tipo di ecosistema senza attrito “ubiquitous computing”. Nel 2015, Eric Schmidt di Google ha previsto un giorno in cui Internet sarà “parte della tua presenza tutto il tempo”, rendendo il tuo comportamento nella vita reale mappabile come quello che fai sul tuo laptop o telefono. Non sarai mai offline.
L’editor di Gizmodo Adam Clark Estes è stato inizialmente eccitato dalla prima importante innovazione hardware dall’iPad di Apple quattro anni prima. Più ha imparato a conoscere la tecnologia, tuttavia, meno gli piaceva. La sua stessa Eco si sveglierebbe senza preavviso. Le registrazioni hanno cominciato a mostrare come prova in casi giudiziari. L’FBI ha rifiutato di confermare o negare che stava usando Alexa per scopi di sorveglianza. “È diventato sempre più chiaro per me che i cani da guardia della privacy avevano ragione”, dice. “È, alla base,un dispositivo di intercettazione.”
Assistenti vocali incarnano la tensione tra efficienza e privacy. La tecnologia è ancora profondamente imperfetta; in più di una delle trascrizioni 10 analizzate da una delle fonti di Bloomberg, Alexa si è svegliata accidentalmente. Interpretare con precisione i comandi vocali tenendo conto di diverse lingue, accenti, toni, contesti e gradi di disordine ambientale richiede molta più potenza computazionale di quanto un singolo dispositivo possa contenere. Pertanto, la maggior parte del lavoro viene eseguito nel cloud, che è il modo in cui i monitor umani sono in grado di raccogliere e analizzare le registrazioni vocali. ” Stai costruendo un’infrastruttura che può essere successivamente cooptata in modi indesiderabili da grandi multinazionali e apparati di sorveglianza statale e compromessa da hacker malintenzionati”, afferma il dott.
Non tutti gli assistenti vocali sono uguali. Apple, i cui profitti non si basano principalmente sulla raccolta dei dati, utilizza più calcolo e crittografia in-device ad entrambe le estremità. “Apple è il migliore in termini di privacy”, afferma Estes. “Allo stesso tempo, penso che tutti siano d’accordo sul fatto che Siri fa schifo.”Amazon Echo e Google Assistant sono molto più affidabili perché i modelli di business di queste aziende dipendono dal sapere molto di più su di te al fine di microtarget pubblicità. A loro piace inquadrare la raccolta dei dati come un mezzo per migliorare i servizi mentre minimizza gli immensi benefici commerciali.
Google e Amazon potrebbero, naturalmente, scegliere di migliorare la tecnologia pagando le persone per testarlo – il tipo di lavoro Josephson eseguito nel 2012 – invece di trattare i loro clienti come un database gratuito di ricerca e sviluppo. Oppure potrebbero pubblicizzare il fatto che gli esseri umani potrebbero studiare le registrazioni. ” Dovrebbe essere sulla scatola”, afferma il dottor Jeremy Gillula, direttore del progetto presso la Electronic Frontier Foundation, un gruppo che fa campagne contro l’uso improprio della tecnologia. L’interpretazione generosa dei motivi delle aziende tecnologiche è un utopismo incurante, ma Gillula sostiene che se fossero veramente ingenui riguardo alle implicazioni della loro tecnologia, allora non farebbero di tutto per nasconderli. “Dubito che pensassero che a nessuno sarebbe importato. Penso che stessero cercando di tenerlo tranquillo perché se gli utenti sapessero cosa stava succedendo potrebbero smettere di acquistare i dispositivi. E ‘ stata una decisione commerciale calcolata.”
In risposta, una portavoce di Amazon afferma: “La fiducia dei clienti è al centro di tutto ciò che facciamo e prendiamo molto sul serio la privacy dei clienti. Esaminiamo continuamente le nostre pratiche e procedure per garantire che stiamo fornendo ai clienti le migliori esperienze e scelte sulla privacy. Forniamo ai clienti diversi controlli sulla privacy, inclusa la possibilità di rivedere ed eliminare le loro registrazioni vocali. Per contribuire a migliorare Alexa, esaminiamo manualmente un campione estremamente piccolo di richieste Alexa per confermare Alexa capito e risposto correttamente. I clienti possono scegliere di non avere le loro registrazioni vocali incluse in quel processo di revisione.”
Eppure è stato dimostrato più e più volte che, nella loro pubblicità e politiche sulla privacy saggiamente formulate, le aziende tecnologiche di routine oscurano l’estensione e la natura della loro raccolta dei dati. “Google e Amazon ci hanno dimostrato che sono inclini a prendere il più possibile fino a quando qualcuno li cattura con la mano nel barattolo dei biscotti”, afferma Estes. “Odio essere drammatico, ma non penso che ci sentiremo mai al sicuro dalle loro pratiche di raccolta dei dati. La regolamentazione del governo è l’unica cosa che fermerà più danni.”
Il governo degli Stati Uniti è stato riluttante ad agire. Nel luglio 2015, l’Electronic Privacy Information Center (Epic), un’organizzazione no-profit di lunga data dedicata ai “valori democratici nell’era dell’informazione”, ha chiesto un’indagine sui dispositivi “always on”, inclusi gli assistenti vocali. Devono ancora ricevere una risposta. ” Le soluzioni basate sul mercato non funzionano in questo settore perché alle aziende è stato permesso di nascondere i difetti dei propri prodotti”, afferma Marc Rotenberg, direttore esecutivo di Epic. Aggiunge: “Se tu o io dovessimo posizionare un dispositivo in casa di qualcun altro con la possibilità di catturare le loro comunicazioni private, saremmo in violazione della legge federale sulle intercettazioni.”
A luglio, un deputato democratico, Seth Moulton, ha introdotto l’Automatic Listening Exploitation Act, che penalizzerebbe le aziende i cui assistenti vocali e campanelli intelligenti (come l’anello di Amazon) registrano le conversazioni senza permesso, ma Gillula lo considera”legislazione piuttosto debole”. In Europa, che ha amara esperienza di prima mano di sorveglianza di massa sotto i regimi totalitari, i regolatori hanno i denti più affilati. Recentemente, Johannes Caspar, commissario formidabile di Amburgo per la protezione dei dati, costretto Google a sospendere la trascrizione delle registrazioni vocali in tutta l’UE, mentre Apple e Facebook contemporaneamente fermato trascrizione in tutto il mondo. (Amazon ha semplicemente permesso agli utenti di rinunciare al monitoraggio umano.) L’Ufficio del Commissario per l’informazione del Regno Unito sta indagando se la supervisione umana viola il regolamento generale sulla protezione dei dati. ” Abbiamo già una regolamentazione significativa in questo settore, ma la chiave è l’applicazione”, afferma Veale. “Come tutte le autorità europee per la protezione dei dati, l’Ufficio del Commissario per l’informazione è sottofinanziato e sovraffollato e ha bisogno di investimenti e sostegno significativi per proteggere i diritti fondamentali dei cittadini.”
Senza una regolamentazione efficace, non c’è difesa contro lo sfruttamento più invasivo degli assistenti vocali. Per definizione always on, anche quando non sono svegli, i dispositivi sono costantemente in ascolto, anche se non sempre in trasmissione. Gillula afferma che non ci sono ostacoli tecnici per consentire ai dispositivi dormienti di, ad esempio, monitorare la visione televisiva degli utenti rispondendo a segnali acuti incorporati in spettacoli e pubblicità, o identificare chi è in casa in un dato momento. “Questo diventa essenzialmente una sorveglianza costante”, dice Gillula. “Sono fiducioso che le aziende non avrebbero mai andare giù questo percorso distopico, ma ho potuto vedere loro dicendo: ‘Oh, è una caratteristica: sapere quando i vostri figli sono a casa!’Una caratteristica interessante è come la maggior parte di queste cose iniziano.”
Dove finiscono ha galvanizzato non solo i cani da guardia della privacy ma gli scrittori. Le implicazioni distopiche degli assistenti vocali appaiono nella fantascienza, tra cui il film di Spike Jonze Her, Black Mirror e Years and Years. Dietro a tutti incombe l ‘” orecchio che non dorme mai “del telescreen di George Orwell in Nineteen Eighty-Four:” Hai dovuto vivere – hai vissuto, da abitudine che è diventata istinto – nel presupposto che ogni suono che hai fatto è stato ascoltato.”The Echo Show, un assistente intelligente con schermo e fotocamera, è stato ampiamente paragonato al telescreen quando è stato introdotto due anni fa. “Alexa, mostrami la distopia”, ha scherzato Vice. Nel romanzo satirico Zed di Joanna Kavenna, lo scrittore esplora lo “strano aspetto disfunzionale-servitore” degli assistenti vocali della vita reale (che hanno tutti voci femminili come impostazione predefinita) e le conseguenze sociopolitiche di the One Voice: in Zed, il monopolio tecnologico, Beetle, è onnipresente e inspiegabile. “L’idea democratica è che siamo destinati ad avere società e governi trasparenti, mentre le persone hanno privacy”, dice. “Abbiamo l’inverso. Le persone sono a disagio perché non è in discussione a un livello maturo e democratico.”
Kavenna si preoccupa che, lungi dal legiferare per proteggere la privacy degli utenti, gli stati Uniti cercheranno di accedere alle registrazioni degli assistenti vocali in nome della prevenzione del crimine e della sicurezza nazionale. L’anno scorso, un giudice del New Hampshire ha fatto notizia ordinando Amazon di presentare registrazioni Echo di un duplice omicidio agli investigatori. ” Li mette in una posizione molto complicata tra i loro clienti e il governo”, dice Kavenna. “Siamo molto dipendenti dal regime politico.”
Rotenberg è d’accordo: “Se sei un paese autoritario, perché non eseguire il flusso audio direttamente a un’agenzia di sorveglianza governativa e sostenere che è per ridurre il crimine in casa? È spaventoso da contemplare, ma concepibile.”
Oggi, assistenti vocali non sono la minaccia più pressante per la privacy solo perché sono opzionali. Uno scanner di riconoscimento facciale può spiare su di voi in uno spazio pubblico, ma Alexa, come un vampiro, deve essere invitato nella vostra casa. L’unico potere veramente efficace che puoi esercitare su questa tecnologia non è usarlo. Ma fare una scelta informata è compromessa dal marketing fuorviante e minata dagli sforzi di Amazon per incorporare Alexa in innumerevoli prodotti, tra cui automobili, televisori, cuffie, microonde, termostati e orologi, mentre firma accordi con aziende di housebuilding e catene alberghiere, il tutto con un occhio a diventare l’unica voce. ” Il controllo vocale viene forzato alla gola dei consumatori, che gli piaccia o no”, afferma Estes.
Non siamo ancora arrivati. Le aziende tecnologiche si affidano al mito dell’inevitabilità tecnologica per occludere le decisioni aziendali che hanno preso e la possibilità di altri modelli. Sfidarli significa combattere il futuro. Sciocchezze, dice Kavenna. “È una conseguenza inevitabile della tecnologia? No, è un’applicazione ideologica della tecnologia. Se costruisci un edificio, non devi costruire un panopticon. Non deve essere quello che abbiamo ora. Spesso sostengono che se sei contrario a questo, sei un neo-luddista. Quel mito ha permesso a molte persone di diventare incredibilmente ricche.”
Nessuna delle persone con cui ho parlato possiede un assistente vocale domestico, né consiglierebbe a nessuno di ottenerne uno, ma tutti concordano sul fatto che sarebbe possibile sviluppare un dispositivo che offra i servizi più popolari rispettando la privacy dell’utente. Se l’intero settore dovesse seguire l’esempio di Apple nel rendere il monitoraggio umano opt-in piuttosto che opt-out, che sarebbe un forte inizio. Quindi, con l’aumentare della potenza di elaborazione, è possibile eseguire più attività all’interno del dispositivo. Ma, naturalmente, ciò significherebbe rinunciare a quei dati succosi e monetizzabili. ” Un sacco di cose che si vuole veramente fare non dovrebbe richiedere Internet, e una volta che si interrompe l’accesso al cloud, poi i problemi di privacy svaniscono, ” dice Estes. “C’è sempre il potenziale per le cose per migliorare – e ci sarà sempre una lotta per arrivare a quel punto.”
Jeremy Gillula è così convinto che un assistente vocale sicuro e completamente controllato dall’utente è possibile che stia progettando il proprio, utilizzando software open-source.
“Ci sto arrivando”, dice allegramente. “Non sono ancora soddisfatto al 100%, ma accenderà e spegnerà le luci.”
{{topLeft}}
{{bottomLeft}}
{{topRight}}
{{bottomRight}}
{{/goalExceededMarkerPercentage}}
{{/ticker}}
{{heading}}
{{#paragraphs}}
{{.}}
{{/paragraphs}}{{highlightedText}}
- Condividi su Facebook
- Condividi su Twitter
- Condividi via e-Mail
- Condividi su LinkedIn
- Condividi su Pinterest
- Condividi su WhatsApp
- Condividi su Messenger
Leave a Reply