en dag i 2017 gick Alexa skurk. När Martin Josephson, som bor i London, kom hem från jobbet, hörde han sin Amazon Echo Dot röstassistent spotta ut fragmentariska kommandon, till synes baserat på hans tidigare interaktioner med enheten. Det verkade vara regurgitating förfrågningar om att boka tågbiljetter för resor han redan hade tagit och att spela in TV-program som han redan hade sett. Josephson hade inte sagt vakna ordet – ”Alexa” – för att aktivera det och ingenting han sa skulle stoppa det. Det var, säger han,”Kafkaesque”.

detta var särskilt intressant eftersom Josephson (inte hans riktiga namn) var en tidigare Amazon-anställd. Tre år tidigare hade han frivilligt satt i ett rum och reciterade en rad uppenbarligen meningslösa fraser i en mikrofon för ett oupptäckt syfte. Först när Amazon släppte Echo i USA 2014 insåg han vad han hade arbetat med. Han köpte en prick, Echo: s billigare, mindre modell, efter att den lanserades 2016, och fann den användbar nog tills den dag det gick haywire. När Prickens utbrott sjönk, kopplade han bort den och deponerade den i papperskorgen. ”Jag kände mig lite dum”, säger han. ”Efter att ha arbetat på Amazon och sett hur de använde människors data visste jag att jag inte kunde lita på dem.”

pricken var inte tänkt att bete sig som en dadaist drill sergeant. Sedan gör röstassistenter ofta saker som de inte ska göra. Förra året skickades en Amazon-kund i Tyskland felaktigt cirka 1700 ljudfiler från någon annans Echo, vilket gav tillräckligt med information för att namnge och hitta den olyckliga användaren och hans flickvän. (Amazon tillskrivna detta” olyckliga missöde ” till mänskligt fel.) i San Francisco hävdade Shawn Kinnear att hans Eko aktiverade sig själv och sa glatt: ”varje gång jag stänger ögonen ser jag bara att människor dör.”I Portland, Oregon, upptäckte en kvinna att hennes Echo hade tagit på sig att skicka inspelningar av privata samtal till en av hennes mans anställda. I ett uttalande, Amazon sade att Ekot måste ha misheard wake ordet, misheard en begäran om att skicka ett meddelande, misheard ett namn i sin kontaktlista och sedan misheard en bekräftelse att skicka meddelandet, allt under en konversation om Trägolv. Inte bra, Alexa.

teknik inspirerar ofta ambivalens: vi vet att Facebook och Google vet för mycket om oss, men vi fortsätter att använda sina tjänster eftersom de är så jävla praktiska. Röstassistenter är dock ovanligt polariserande. Människor som anser dem olycksbådande och invasiva (inklusive mig själv) betraktar entusiaster som självbelåtna, medan de som tycker att de är användbara och godartade ser skeptikerna som paranoida teknofober. Det finns en fråga som fraktas med större problem om vårt förhållande till teknikindustrin: ska du låta Alexa komma in i ditt hem?

I Januari avslöjade Amazons senior vice president för enheter, David Limp, att företaget hade sålt mer än 100m Alexa-aktiverade enheter. Förra året i USA, där en av fem vuxna äger en hemröstassistent, hade Alexa en marknadsandel på 70% i USA jämfört med Google Assistant 24%. Det är därför bäst placerat att bli det Shoshana Zuboff, i sin bästsäljare, The Age of Surveillance Capitalism, kallar ”en röst”: det dominerande ekosystemet som skulle ge sin operatör ”förmågan att förutse och tjäna pengar på alla ögonblick för alla människor under alla dagar”. Zuboff kallar födelsen av Alexa”en tröskelhändelse”.Alexa har dock vuxit upp i en tid med ökande skepsis om kraften och moralen hos de ”stora fem” Teknikföretagen: Amazon, Apple, Facebook, Google/Alphabet och Microsoft. Händelser som Edward Snowden leaks och Cambridge Analytica-skandalen har skadat Silicon Valley utopiska löften. Vd är mindre benägna att trivialisera integritetsfrågor. Tech journalister är mer benägna att vara kritiker än cheerleaders. Politiker är mer villiga att ställa företag till svars.

i år har varit särskilt knepigt. Under de senaste sex månaderna har Bloomberg, The Guardian, Vice News och den belgiska nyhetskanalen VRT gradvis avslöjat att alla big five har använt mänskliga entreprenörer för att analysera en liten andel röstassistentinspelningar. Även om inspelningarna är anonymiserade innehåller de ofta tillräckligt med information för att identifiera eller genera användaren – särskilt om det de hör är konfidentiell medicinsk information eller ett oavsiktligt sexband. Uppenbarelserna var det sista strået för många Alexa-skeptiker. ”Vi lever i en Tekno-dystopi av vår egen tillverkning. Om du fortfarande har en Alexa eller någon annan röstassistent i ditt hem, var du varnad,” skrev Gizmodo-författaren Matt Novak.efter att ha arbetat på Amazon och ett annat big-five-företag tycker Josephson att detta motstånd mot dessa företag är motiverat. ”De har noll intresse, enligt min mening, att undra vad effekten av dessa produkter kommer att bli. Att behandla dem som rätt människor att utöva den makten är en löjlig situation som vi inte skulle tillåta i någon annan bransch. De är uppriktigt sagt inte säkra väktare av de data som de samlar in varje dag utan att vi vet.”

röststyrning grep först den offentliga fantasin på 60-talet, via HAL 9000, den kännande datorn 2001: A Space Odyssey och Starship Enterprise oändligt hjälpsamma dator i Star Trek. Den senare var en viktig referenspunkt för de lag som utvecklade Amazons Echo och Google Assistant. ”Det starka ljuset, det lysande ljuset, som fortfarande är många år bort, många årtionden bort, är att återskapa Star Trek-datorn”, berättade Limp för en konferenspublik 2017.i den verkliga världen blev röstigenkänning inte vanligt förrän Apple lanserade sin telefonbaserade röstassistent, Siri, 2011. Alexa går mycket längre genom att kolonisera användarens hem. För tre decennier sedan kallade den förutseende datavetenskapsmannen Mark Weiser denna typ av friktionsfri ekosystem ”allestädes närvarande databehandling”. I 2015 förutsåg Googles Eric Schmidt en dag då internet kommer att vara ”en del av din närvaro hela tiden”, vilket gör ditt verkliga beteende så mappbart som vad du gör på din bärbara dator eller telefon. Du kommer aldrig att vara offline.

Gizmodo-redaktören Adam Clark Estes var ursprungligen upphetsad av den första stora hårdvaruinnovationen sedan Apples iPad fyra år tidigare. Ju mer han lärde sig om tekniken, desto mindre gillade han den. Hans eget Eko skulle vakna obefintligt. Inspelningar började dyka upp som bevis i rättsfall. FBI vägrade att bekräfta eller förneka att den använde Alexa för övervakningsändamål. ”Det blev allt tydligare för mig att sekretessvakterna hade rätt,” säger han. ”Det är vid basen en wiretapping-enhet.”

röstassistenter sammanfattar spänningen mellan effektivitet och integritet. Tekniken är fortfarande djupt ofullkomlig; i mer än en av 10 transkript analyserade av en av Bloombergs källor vaknade Alexa av misstag. Korrekt tolkning av röstkommandon genom att ta hänsyn till olika språk, accenter, toner, sammanhang och grader av omgivande röran kräver mycket mer beräkningskraft än en enda enhet kan innehålla. Därför utförs det mesta av arbetet i molnet, vilket är hur mänskliga bildskärmar kan samla in och analysera röstinspelningar. ”Du bygger en infrastruktur som senare kan samordnas på oönskade sätt av stora multinationella företag och statlig övervakningsapparat och äventyras av skadliga hackare”, säger Dr Michael Veale, föreläsare i digitala rättigheter och reglering vid UCL-Juridiska fakulteten vid University College London.

inte alla röstassistenter är lika. Apple, vars vinster Inte främst är beroende av datainsamling, använder mer beräkning och kryptering i båda ändarna. ”Apple är bäst på integritet”, säger Estes. ”Samtidigt tror jag att alla är överens om att Siri suger.”Amazon Echo och Google Assistant är mycket mer tillförlitliga eftersom dessa företags affärsmodeller är beroende av att veta så mycket mer om dig för att microtarget reklam. De gillar att rama in datainsamling som ett sätt att förbättra tjänsterna medan de spelar ner de enorma kommersiella fördelarna.Google och Amazon kan naturligtvis välja att förbättra tekniken genom att betala människor för att testa den – den typ av arbete Josephson utförde 2012 – istället för att behandla sina kunder som en gratis forsknings-och utvecklingsdatabas. Eller de kan annonsera det faktum att människor kan studera inspelningarna. ”Det borde vara på lådan”, säger Dr Jeremy Gillula, projektledare vid Electronic Frontier Foundation, en grupp som kampanjer mot missbruk av teknik. Den generösa tolkningen av Teknikföretagens motiv är en hänsynslös utopianism, men Gillula hävdar att om de verkligen var naiva om konsekvenserna av deras teknik, skulle de inte gå så långt för att dölja dem. ”Jag tvivlar på att de trodde att ingen skulle bry sig. Jag tror att de försökte hålla det tyst, för om användarna visste vad som hände kan de sluta köpa enheterna. Det var ett beräknat affärsbeslut.”

som svar säger en taleskvinna för Amazon: ”kundförtroende är i centrum för allt vi gör och vi tar kundens integritet på största allvar. Vi granskar kontinuerligt våra rutiner och rutiner för att säkerställa att vi ger kunderna de bästa upplevelserna och integritetsvalen. Vi ger kunderna flera sekretesskontroller, inklusive möjligheten att granska och radera sina röstinspelningar. För att förbättra Alexa granskar vi manuellt ett extremt litet urval av Alexa-förfrågningar för att bekräfta att Alexa förstod och svarade korrekt. Kunderna kan välja bort att få sina röstinspelningar inkluderade i den granskningsprocessen.”

ändå har det visats gång på gång att teknikföretag rutinmässigt döljer omfattningen och arten av deras datainsamling i sin reklam och skarpa formulerade Integritetspolicy. ”Google och Amazon har visat oss att de är benägna att ta så mycket de kan tills någon fångar dem med handen i kakburken”, säger Estes. ”Jag hatar att vara dramatisk, men jag tror inte att vi någonsin kommer att känna oss säkra från deras datainsamlingspraxis. Statlig reglering är det enda som kommer att stoppa mer skada.”den amerikanska regeringen har varit ovillig att agera. I juli 2015 krävde Electronic Privacy Information Center (Epic), En sedan länge etablerad ideell organisation tillägnad ”demokratiska värden i informationsåldern”, en undersökning av ”alltid på” enheter, inklusive röstassistenter. De har ännu inte fått ett svar. ”Marknadsbaserade lösningar fungerar inte på detta område eftersom företag har fått dölja bristerna i sina egna produkter”, säger Marc Rotenberg, Epics verkställande direktör. Han tillägger: ”Om du eller jag skulle placera en enhet i någon annans hem med förmågan att fånga sin privata kommunikation, skulle vi bryta mot Federal Wiretap Act.”i Juli introducerade en demokratisk kongressledamot Seth Moulton lagen om automatisk Lyssningsutnyttjande, som skulle straffa företag vars röstassistenter och smarta dörrklockor (som Amazons Ring) spelar in konversationer utan tillstånd, men Gillula anser att det är ”ganska svag lagstiftning”. I Europa, som har bitter förstahandserfarenhet av massövervakning under totalitära regimer, har tillsynsmyndigheterna skarpare tänder. Nyligen tvingade Johannes Caspar, Hamburgs formidabla kommissionär för dataskydd, Google att avbryta transkriptionen av röstinspelningar i hela EU, medan Apple och Facebook samtidigt stoppade transkriptionen överallt i världen. (Amazon tillät bara användare att välja bort mänsklig övervakning.) Den brittiska Informationskommissionärens Kontor undersöker om mänsklig tillsyn bryter mot den allmänna dataskyddsförordningen. ”Vi har redan betydande reglering på detta område, men nyckeln är verkställighet”, säger Veale. ”Liksom alla europeiska dataskyddsmyndigheter är Informationskommissionärens Kontor underfinansierat och översträckt och behöver betydande investeringar och stöd för att skydda medborgarnas grundläggande rättigheter.”utan effektiv reglering finns det inget försvar mot mer invasivt utnyttjande av röstassistenter. Per definition alltid på, även när de inte är vakna, lyssnar enheterna ständigt, men sänder inte alltid. Gillula säger att det inte finns några tekniska hinder för att vilande enheter till exempel kan spåra användarnas TV-tittande genom att svara på höga signaler inbäddade i shower och annonser eller identifiera vem som är i huset vid varje given tidpunkt. ”Det blir i huvudsak konstant övervakning”, säger Gillula. ”Jag hoppas att företagen aldrig skulle gå ner denna dystopiska väg, men jag kunde se dem säga:” Åh, det är en funktion: vet när dina barn är hemma! En tilltalande funktion är hur de flesta av dessa saker börjar.”

där de hamnar har galvaniserat inte bara sekretessvakter utan författare. De dystopiska konsekvenserna av röstassistenter visas i science fiction, inklusive Spike Jonze-filmen Her, Black Mirror och Years and Years. Bakom dem väver alla det” aldrig sovande örat ”av George Orwells teleskärm på nitton åttiofyra:” du var tvungen att leva-levde, från vana som blev instinkt – i antagandet att varje ljud du gjorde hördes.”Echo Show, en smart assistent med skärm och kamera, jämfördes allmänt med teleskärmen när den introducerades för två år sedan. ”Alexa, visa mig Dystopi,” quipped Vice. I Joanna Kavennas satiriska roman Zed utforskar författaren den” konstiga dysfunktionella tjänaraspekten ” av verkliga röstassistenter (som alla har kvinnliga röster som standardinställning) och de sociopolitiska konsekvenserna av One Voice: i Zed är det tekniska monopolet, Beetle, allestädes närvarande och oförklarligt. ”Den demokratiska tanken är att vi är tänkta att ha transparenta företag och regeringar, medan människor har integritet”, säger hon. ”Vi har det omvända. Människor är oroliga eftersom det inte diskuteras på en mogen, demokratisk nivå.”

Kavenna oroar sig för att, långt ifrån att lagstifta för att skydda användarnas integritet, kommer amerikanska stater att försöka få tillgång till röstassistentinspelningar i namn av brottsförebyggande och nationell säkerhet. Förra året gjorde en domare i New Hampshire rubriker genom att beordra Amazon att lämna in Echo-inspelningar av ett dubbelmord till utredare. ”Det sätter dem i en mycket komplicerad position mellan sina kunder och regeringen”, säger Kavenna. ”Vi är mycket beroende av den politiska regimen.”

Rotenberg håller med: ”Om du är ett auktoritärt land, varför inte bara köra ljudströmmen direkt till en statlig övervakningsbyrå och hävda att det är att minska brottsligheten i hemmet? Det är skrämmande att överväga, men tänkbart.”

idag är röstassistenter inte det mest pressande hotet mot privatlivet bara för att de är valfria. En ansiktsigenkänningsskanner kan spionera på dig i ett offentligt utrymme, men Alexa, som en vampyr, måste bjudas in i ditt hem. Den enda verkligt effektiva kraften du kan använda över denna teknik är att inte använda den. Men att göra ett välgrundat val äventyras av vilseledande marknadsföring och undergrävs av Amazons ansträngningar att bädda in Alexa i otaliga produkter, inklusive bilar, TV-apparater, hörlurar, mikrovågor, termostater och Klockor, medan man undertecknar avtal med husbyggnadsföretag och hotellkedjor, allt med ett öga på att bli en röst. ”Röststyrning tvingas ner konsumenternas halsar oavsett om de gillar det eller inte”, säger Estes.

Vi är inte där än. Teknikföretag förlitar sig på myten om teknisk oundviklighet för att täcka de affärsbeslut de har fattat och möjligheten till andra modeller. Att utmana dem är att bekämpa framtiden. Nonsens, säger Kavenna. ”Är det en oundviklig följd av teknik? Nej, det är en ideologisk tillämpning av teknik. Om du bygger en byggnad behöver du inte bygga en panopticon. Det behöver inte vara vad vi har nu. De kommer ofta att hävda att om du är emot detta är du en neo-luddite. Den myten har gjort det möjligt för många människor att bli oerhört rika.”

ingen av de människor jag pratade med äger en hemröstassistent, inte heller skulle de råda någon att få en, men de är alla överens om att det skulle vara möjligt att utveckla en enhet som levererar de mest populära tjänsterna samtidigt som användarens integritet respekteras. Om hela branschen skulle följa Apples ledning för att göra mänsklig övervakning opt-in snarare än opt-out, skulle det vara en stark start. Då, när processorkraften ökar, kan fler uppgifter utföras inuti enheten. Men, naturligtvis, det skulle innebära att förlora den saftiga, monetisable data. ”Många saker som du verkligen vill göra borde inte kräva internet, och när du stänger av tillgången till molnet, försvinner integritetsfrågorna”, säger Estes. ”Det finns alltid potential för saker att bli bättre-och det kommer alltid att bli en kamp för att komma till den punkten.”

Jeremy Gillula är så övertygad om att en säker, helt användarstyrd röstassistent är möjlig att han utformar sin egen med öppen källkodsprogramvara.

”Jag kommer dit”, säger han glatt. ”Jag är inte 100% nöjd än, men det kommer att tända och släcka lamporna.”

{{#ticker}}

{{topLeft}}

{{bottomLeft}}

{{topRight}}

{{bottomRight}}

{{#goalExceededMarkerPercentage}}

{{/goalExceededMarkerPercentage}}

{{/ticker}}

{{heading}}

{{#paragraphs}}

{{.}}

{{/paragraphs}}{{highlightedText}}

{{#cta}}{{text}}{{/cta}}

Remind me in May

vi kommer att vara i kontakt för att påminna dig om att bidra. Håll utkik efter ett meddelande i din inkorg i maj 2021. Om du har några frågor om att bidra, vänligen kontakta oss.

• Dela på Facebook
• Dela på Twitter
• dela via e-post
• Dela på LinkedIn
• Dela på Pinterest
• Dela på WhatsApp
• Dela på Messenger