într-o zi din 2017, Alexa a devenit necinstit. Când Martin Josephson, care locuiește în Londra, a venit acasă de la serviciu, și-a auzit asistentul vocal Amazon Echo Dot scuipând comenzi fragmentare, aparent bazate pe interacțiunile sale anterioare cu dispozitivul. Părea să regurgiteze cererile de a rezerva bilete de tren pentru călătoriile pe care le luase deja și de a înregistra emisiuni TV pe care le vizionase deja. Josephson nu spusese cuvântul de trezire – „Alexa” – pentru a-l activa și nimic din ce a spus nu îl va opri. A fost, spune el,”Kafkaesque”.

Acest lucru a fost deosebit de interesant, deoarece Josephson (nu numele său real) a fost un fost angajat Amazon. Cu trei ani mai devreme, se oferise voluntar să stea într-o cameră recitând un șir de fraze aparent lipsite de sens într-un microfon pentru un scop nedezvăluit. Abia când Amazon a lansat Echo în SUA în 2014 și-a dat seama la ce lucrase. El a cumpărat un Dot, Modelul mai ieftin și mai mic al Echo, după ce a fost lansat în 2016 și a găsit-o suficient de utilă până în ziua în care a luat-o razna. Când izbucnirea punctului s-a potolit, a deconectat-o și a depus-o în Coș. „M-am simțit puțin prost”, spune el. „După ce am lucrat la Amazon și am văzut cum folosesc datele oamenilor, am știut că nu pot avea încredere în ei.”

punctul nu trebuia să se comporte ca un sergent dadaist. Apoi, din nou, asistenții vocali fac adesea lucruri pe care nu ar trebui să le facă. Anul trecut, un client Amazon din Germania a trimis din greșeală aproximativ 1.700 de fișiere audio de la Echo-ul altcuiva, oferind suficiente informații pentru a numi și localiza nefericitul utilizator și iubita sa. (Amazon a atribuit această” nenorocire nefericită ” erorii umane.în San Francisco, Shawn Kinnear a susținut că ecoul său s-a activat și a spus vesel: „de fiecare dată când închid ochii, tot ce văd sunt oameni care mor.”În Portland, Oregon, o femeie a descoperit că ecoul ei și-a asumat sarcina de a trimite înregistrări ale conversațiilor private unuia dintre angajații soțului ei. Într-o declarație, Amazon a spus că Echo trebuie să fi auzit greșit cuvântul wake, să fi auzit greșit o cerere de a trimite un mesaj, să fi auzit greșit un nume în lista sa de contacte și apoi să fi auzit greșit o confirmare pentru a trimite mesajul, toate în timpul unei conversații despre podele din lemn de esență tare. Nu prea bine, Alexa.

Tehnologia inspiră frecvent ambivalență: știm că Facebook și Google știu prea multe despre noi, dar continuăm să le folosim serviciile pentru că sunt atât de convenabile. Cu toate acestea, asistenții vocali sunt neobișnuit de polarizați. Oamenii care îi consideră Sinistri și invazivi (inclusiv eu) îi consideră pe entuziaști ca fiind mulțumiți, în timp ce cei care îi consideră utili și Benigni îi văd pe sceptici ca pe niște tehnofobi paranoici. Există o întrebare încărcată cu probleme mai mari despre relația noastră cu industria tehnologică: ar trebui să-l lași pe Alexa în casa ta?

în ianuarie, vicepreședintele Amazon pentru dispozitive, David Limp, a dezvăluit că compania a vândut peste 100 de milioane de dispozitive compatibile Alexa. Anul trecut, în SUA, unde unul din cinci adulți deține un asistent vocal la domiciliu, Alexa a avut o cotă de piață de 70% în SUA, comparativ cu Asistentul Google de 24%. Prin urmare, este cel mai bine plasat pentru a deveni ceea ce Shoshana Zuboff, în bestseller-ul său, The Age of Surveillance Capitalism, numește „o singură voce”: ecosistemul dominant care i-ar oferi operatorului său „capacitatea de a anticipa și de a monetiza toate momentele tuturor oamenilor în toate zilele”. Zuboff numește nașterea lui Alexa „un eveniment de prag”.cu toate acestea, Alexa a crescut într-o eră de scepticism în creștere cu privire la puterea și moralitatea companiilor de tehnologie „big five”: Amazon, Apple, Facebook, Google/Alphabet și Microsoft. Evenimente precum Edward Snowden leaks și scandalul Cambridge Analytica au pătat promisiunile utopice ale Silicon Valley. Directorii executivi sunt mai puțin susceptibili să banalizeze preocupările legate de confidențialitate. Jurnaliștii tehnologici sunt mai predispuși să fie critici decât majorete. Politicienii sunt mai dispuși să tragă la răspundere companiile.

acest an a fost deosebit de dificil. În ultimele șase luni, Bloomberg, Gardianul, Vice News și canalul de știri Belgian VRT au dezvăluit treptat că toți cei cinci mari au folosit contractori umani pentru a analiza un procent mic de înregistrări ale asistenților vocali. Deși înregistrările sunt anonimizate, ele conțin adesea suficiente informații pentru a identifica sau stânjeni utilizatorul – în special dacă ceea ce aud Sunt informații medicale confidențiale sau o bandă sexuală accidentală. Dezvăluirile au fost ultima paie pentru mulți sceptici Alexa. „Trăim într-o Tehno-distopie a propriei noastre creații. Dacă mai aveți un Alexa sau orice alt asistent vocal în casa dvs., ați fost avertizat”, a scris scriitorul Gizmodo Matt Novak.după ce a lucrat la Amazon și la o altă companie big-five, Josephson crede că această rezistență față de aceste companii este justificată. „Ei nu au niciun interes, în opinia mea, să se întrebe care va fi impactul acestor produse. A-i trata ca pe oamenii potriviți pentru a exercita acea putere este o situație ridicolă pe care nu am permite-o în nicio altă industrie. Ei, sincer, nu sunt gardieni în siguranță ai datelor pe care le colectează în fiecare zi fără ca noi să știm.”

controlul vocal a confiscat pentru prima dată imaginația publică în anii ‘ 60, prin intermediul HAL 9000, computerul simțitor în 2001: O Odisee Spațială și computerul extrem de util al navei stelare Enterprise în Star Trek. Acesta din urmă a fost un punct de referință major pentru echipele care au dezvoltat Echo-ul Amazon și Asistentul Google. „Lumina strălucitoare, lumina strălucitoare, care este încă la mulți ani distanță, multe decenii distanță, este de a recrea computerul Star Trek”, a spus Limp într-o audiență a Conferinței în 2017.

în lumea reală, Recunoașterea vocii nu a devenit obișnuită până când Apple a lansat asistentul vocal bazat pe telefon, Siri, în 2011. Alexa merge mult mai departe colonizând casa utilizatorului. Acum trei decenii, informaticianul prescient Mark Weiser a numit acest tip de ecosistem fără frecare „calcul omniprezent”. În 2015, Eric Schmidt de la Google a prevăzut o zi în care Internetul va fi „o parte din prezența ta tot timpul”, făcând comportamentul tău din viața reală la fel de mapabil ca ceea ce faci pe laptop sau telefon. Nu vei fi niciodată offline.editorul Gizmodo Adam Clark Estes a fost inițial încântat de prima inovație hardware majoră de la iPad-ul Apple cu patru ani mai devreme. Cu cât a aflat mai multe despre tehnologie, cu atât I-a plăcut mai puțin. Propriul său ecou s-ar trezi nepromptat. Înregistrările au început să apară ca probe în cazurile judiciare. FBI a refuzat să confirme sau să nege că a folosit Alexa în scopuri de supraveghere. „Mi-a devenit din ce în ce mai clar că paznicii de confidențialitate aveau dreptate”, spune el. „Este, la bază,un dispozitiv de interceptare.”

asistenții vocali reprezintă tensiunea dintre eficiență și intimitate. Tehnologia este încă profund imperfectă; în mai mult de una din transcrierile 10 analizate de una dintre sursele Bloomberg, Alexa s-a trezit accidental. Interpretarea corectă a comenzilor vocale prin luarea în considerare a diferitelor limbi, accente, tonuri, contexte și grade de dezordine ambientală necesită mult mai multă putere de calcul decât poate conține un singur dispozitiv. Prin urmare, cea mai mare parte a muncii este efectuată în cloud, care este modul în care monitoarele umane sunt capabile să colecteze și să analizeze înregistrările vocale. „Construiți o infrastructură care poate fi ulterior cooptată în moduri nedorite de marile multinaționale și de aparatele de supraveghere de stat și compromisă de hackeri rău intenționați”, spune Dr.Michael Veale, lector în drepturi și reglementări digitale la UCL Facultatea de Drept la University College London.

nu toți asistenții vocali sunt egali. Apple, ale cărui profituri nu se bazează în principal pe colectarea datelor, utilizează mai multe calcule și criptare în dispozitiv la ambele capete. „Apple este cel mai bun la confidențialitate”, spune Estes. „În același timp, cred că toată lumea este de acord că Siri e de rahat.”Amazon Echo și Google Assistant sunt mult mai fiabile, deoarece modelele de afaceri ale acestor companii depind de cunoașterea a mult mai multe despre dvs. pentru a vă microtargeta publicitatea. Le place să încadreze colectarea datelor ca mijloc de îmbunătățire a serviciilor, reducând în același timp beneficiile comerciale imense.Google și Amazon ar putea alege, desigur, să îmbunătățească tehnologia plătind oamenii să o testeze – genul de muncă pe care Josephson a efectuat – o în 2012-în loc să-și trateze clienții ca pe o bază de date gratuită de cercetare și dezvoltare. Sau ar putea face publicitate faptului că oamenii ar putea studia înregistrările. „Ar trebui să fie pe cutie”, spune dr.Jeremy Gillula, directorul de proiect al Fundației Electronic Frontier, un grup care face campanii împotriva utilizării necorespunzătoare a tehnologiei. Interpretarea generoasă a motivelor companiilor de tehnologie este un utopianism nepăsător, dar Gillula susține că, dacă ar fi cu adevărat naivi cu privire la implicațiile tehnologiei lor, atunci nu ar merge atât de departe pentru a le ascunde. „Mă îndoiesc că au crezut că nimănui nu-i va păsa. Cred că încercau să păstreze tăcerea, deoarece dacă utilizatorii știau ce se întâmplă, s-ar putea să nu mai cumpere dispozitivele. A fost o decizie de afaceri calculată.”

ca răspuns, o purtătoare de cuvânt a Amazon spune: „încrederea clienților este în centrul a tot ceea ce facem și luăm foarte în serios confidențialitatea clienților. Revizuim continuu practicile și procedurile noastre pentru a ne asigura că oferim clienților cele mai bune experiențe și opțiuni de confidențialitate. Oferim clienților mai multe controale de confidențialitate, inclusiv posibilitatea de a revizui și șterge înregistrările vocale. Pentru a ajuta la îmbunătățirea Alexa, examinăm manual un eșantion extrem de mic de solicitări Alexa pentru a confirma că Alexa a înțeles și a răspuns corect. Clienții pot renunța la includerea înregistrărilor vocale în procesul de revizuire respectiv.”cu toate acestea, s-a demonstrat de nenumărate ori că, în politicile lor de publicitate și de confidențialitate, companiile tehnologice ascund în mod obișnuit amploarea și natura recoltării datelor lor. „Google și Amazon ne-au arătat că sunt înclinați să ia cât pot până când cineva îi prinde cu mâna în borcanul cu cookie-uri”, spune Estes. „Urăsc să fiu dramatic, dar nu cred că ne vom simți vreodată în siguranță de practicile lor de colectare a datelor. Reglementarea guvernamentală este singurul lucru care va opri mai multe daune.”

guvernul SUA a fost reticente în a acționa. În iulie 2015, Centrul Electronic de informații privind confidențialitatea (Epic), o organizație nonprofit de lungă durată dedicată „valorilor democratice în era informației”, a solicitat o investigație asupra dispozitivelor „always on”, inclusiv a asistenților vocali. Încă nu au primit un răspuns. „Soluțiile bazate pe piață nu funcționează în acest domeniu, deoarece companiilor li s-a permis să ascundă defectele propriilor produse”, spune Marc Rotenberg, directorul executiv al Epic. El adaugă: „dacă tu sau eu am plasa un dispozitiv în casa altcuiva cu capacitatea de a capta comunicațiile lor private, am încălca legea federală privind interceptarea convorbirilor telefonice.în iulie, un congresman Democrat, Seth Moulton, a introdus Legea privind exploatarea automată a ascultării, care ar penaliza companiile ale căror asistenți vocali și sonerii inteligente (cum ar fi inelul Amazon) înregistrează conversații fără permisiune, dar Gillula consideră că este „o legislație destul de slabă”. În Europa, care are o experiență amară de primă mână a supravegherii în masă sub regimuri totalitare, autoritățile de reglementare au dinți mai ascuțiți. Recent, Johannes Caspar, formidabilul comisar pentru Protecția Datelor din Hamburg, a forțat Google să suspende transcrierea înregistrărilor vocale în întreaga UE, în timp ce Apple și Facebook au oprit simultan transcrierea peste tot în lume. (Amazon a permis doar utilizatorilor să renunțe la monitorizarea umană.) Biroul Comisarului britanic pentru informații investighează dacă supravegherea umană încalcă regulamentul General privind protecția datelor. „Avem deja reglementări semnificative în acest domeniu, dar cheia este aplicarea”, spune Veale. „La fel ca toate autoritățile europene pentru protecția datelor, Biroul Comisarului pentru informații este subfinanțat și suprasolicitat și are nevoie de investiții și sprijin semnificativ pentru a proteja drepturile fundamentale ale cetățenilor.”

fără o reglementare eficientă, nu există apărare împotriva exploatării mai invazive a asistenților vocali. Prin definiție întotdeauna pornit, chiar și atunci când nu sunt treji, dispozitivele ascultă constant, deși nu transmit întotdeauna. Gillula spune că nu există obstacole tehnice pentru a permite dispozitivelor latente, de exemplu, să urmărească vizionarea televiziunii utilizatorilor răspunzând la semnale înalte încorporate în emisiuni și reclame sau să identifice cine se află în casă la un moment dat. „Aceasta devine în esență o supraveghere constantă”, spune Gillula. „Sper că companiile nu vor merge niciodată pe această cale distopică, dar le-am putut vedea spunând:” Oh, este o caracteristică: știți când copiii dvs. sunt acasă! O caracteristică atrăgătoare este modul în care încep majoritatea acestor lucruri.”

în cazul în care acestea ajung a galvanizat nu doar câini de pază de confidențialitate, dar scriitori. Implicațiile distopice ale asistenților vocali apar în Science fiction, inclusiv în filmul Spike Jonze Her, Black Mirror și Years and Years. În spatele lor se află ” urechea care nu doarme niciodată „a tele-ecranului lui George Orwell din nouăsprezece optzeci și patru:” trebuia să trăiești – a trăit, din obișnuință care a devenit instinct – în presupunerea că fiecare sunet pe care l-ai făcut a fost auzit.”Echo Show, un asistent inteligent cu ecran și cameră, a fost comparat pe scară largă cu tele-ecranul când a fost introdus în urmă cu doi ani. „Alexa, arată-mi distopia”, a glumit Vice. În Joanna Kavenna ‘s satiric roman Zed, scriitorul explorează” aspectul ciudat disfuncțional-servitor ” al asistenților vocali din viața reală (care au toate vocile feminine ca setare implicită) și consecințele sociopolitice ale o singură voce: în Zed, monopolul tehnologic, Beetle, este omniprezent și inexplicabil. „Ideea democratică este că suntem meniți să avem corporații și guverne transparente, în timp ce oamenii au intimitate”, spune ea. „Avem inversul. Oamenii sunt neliniștiți pentru că nu este dezbătut la un nivel Matur, democratic.”

Kavenna își face griji că, departe de a legifera pentru a proteja confidențialitatea utilizatorilor, statele americane vor căuta să acceseze înregistrări de asistent vocal în numele prevenirii criminalității și securității naționale. Anul trecut, un judecător din New Hampshire a făcut titluri ordonând Amazon să prezinte anchetatorilor înregistrări Echo ale unei duble crime. „Îi pune într-o poziție foarte complicată între clienții lor și guvern”, spune Kavenna. „Suntem foarte dependenți de regimul politic.”

Rotenberg este de acord: „Dacă sunteți o țară autoritară, de ce nu rulați fluxul audio direct la o agenție guvernamentală de supraveghere și susțineți că este vorba de reducerea criminalității în casă? Este înfricoșător să contemplăm, dar este de conceput.”

astăzi, asistenții vocali nu reprezintă cea mai presantă amenințare la adresa vieții private doar pentru că sunt opționali. Un scaner de recunoaștere facială te poate spiona într-un spațiu public, dar Alexa, ca un vampir, trebuie invitat în casa ta. Singura putere cu adevărat eficientă pe care o puteți exercita asupra acestei tehnologii este să nu o utilizați. Dar a face o alegere informată este compromisă de marketingul înșelător și subminată de eforturile Amazon de a încorpora Alexa în nenumărate produse, inclusiv mașini, televizoare, căști, microunde, termostate și Ceasuri, în timp ce semnează acorduri cu companii de construcții de case și lanțuri hoteliere, toate cu un ochi pentru a deveni o singură voce. „Controlul vocal este forțat pe gâtul consumatorilor, indiferent dacă le place sau nu”, spune Estes.

nu suntem încă acolo. Companiile tehnologice se bazează pe mitul inevitabilității tehnologice pentru a bloca deciziile de afaceri pe care le-au luat și posibilitatea altor modele. A le provoca înseamnă a lupta cu viitorul. Prostii, spune Kavenna. „Este o consecință inevitabilă a tehnologiei? Nu, este o aplicație ideologică a tehnologiei. Dacă construiți o clădire, nu trebuie să construiți un panopticon. Nu trebuie să fie ceea ce avem acum. Ei vor pretinde de multe ori că, dacă te opui acestui lucru, ești un neo-luddite. Acest mit a permis multor oameni să devină incredibil de bogați.”niciuna dintre persoanele cu care am vorbit nu deține un asistent vocal acasă și nici nu ar sfătui pe nimeni să obțină unul, dar toți sunt de acord că ar fi posibil să se dezvolte un dispozitiv care să ofere cele mai populare servicii, respectând în același timp confidențialitatea utilizatorului. Dacă întreaga industrie ar urma exemplul Apple în ceea ce privește opt-in-ul de monitorizare umană, mai degrabă decât opt-out, acesta ar fi un început puternic. Apoi, pe măsură ce crește puterea de procesare, ar putea fi efectuate mai multe sarcini în interiorul dispozitivului. Dar, desigur, asta ar însemna pierderea acelor date suculente, care pot fi obținute din bani. „O mulțime de lucruri pe care doriți cu adevărat să le faceți nu ar trebui să necesite internetul și, odată ce ați întrerupt accesul la cloud, preocupările privind confidențialitatea dispar”, spune Estes. „Există întotdeauna potențialul ca lucrurile să se îmbunătățească – și va exista întotdeauna o luptă pentru a ajunge la acel punct.”

Jeremy Gillula este atât de convins că este posibil un asistent vocal sigur, complet controlat de utilizator, încât își proiectează propriul, folosind software open-source.

„ajung acolo”, spune el vesel. „Nu sunt încă 100% mulțumit, dar va aprinde și stinge luminile.”

{{#ticker}}

{{topLeft}}

{{bottomLeft}}

{{topRight}}

{{bottomRight}}

{{#goalExceededMarkerPercentage}}

{{/goalExceededMarkerPercentage}}

{{/ticker}}

{{heading}}

{{#paragraphs}}

{{.}}

{{/paragraphs}}{{highlightedText}}

{{#cta}}{{text}}{{/cta}}

Remind me in May

vom fi în contact pentru a vă reaminti să contribuiți. Căutați un mesaj în căsuța de e-mail în mai 2021. Dacă aveți întrebări despre contribuția, vă rugăm să ne contactați.

• Share on Facebook
• Share on Twitter
• Share via Email
• Share on LinkedIn
• Share on Pinterest
• Share on WhatsApp
• Share on Messenger