One day in 2017, Alexa we rogue. Kun Martin Josephson, joka asuu Lontoossa, tuli kotiin töistä, hän kuuli hänen Amazon Echo Dot ääni avustaja sylkee fragmentary komentoja, ilmeisesti perustuu hänen aiemman vuorovaikutusta laitteen kanssa. Vaikutti siltä, että hän pyysi uudelleen junalippujen varaamista matkoille, jotka hän oli jo tehnyt, ja tv-ohjelmien nauhoittamista, joita hän oli jo katsonut. Josephson ei ollut sanonut herätyssanaa – ”Alexaa” – aktivoidakseen sen, eikä mikään hänen sanomansa pysäyttäisi sitä. Se oli hänen mukaansa ”Kafkamaista”.

Tämä kiinnosti erityisesti siksi, että Josephson (ei hänen oikea nimensä) oli Amazonin entinen työntekijä. Kolme vuotta aiemmin hän oli tarjoutunut istumaan huoneessa lausumassa mikrofoniin jonoa ilmeisen merkityksettömiä lauseita tuntemattomaan tarkoitukseen. Vasta kun Amazon julkaisi Echon Yhdysvalloissa vuonna 2014, hän tajusi, mitä oli tehnyt. Hän osti Dotin, Echon halvemman, pienemmän mallin, sen tultua markkinoille vuonna 2016, ja totesi sen riittävän hyödylliseksi, kunnes se sekosi. Kun pisteen purkaus laantui, hän irrotti sen ja talletti roskakoriin. ”Tunsin itseni vähän hölmöksi”, hän sanoo. ”Työskenneltyäni Amazonilla ja nähtyäni, miten he käyttivät ihmisten tietoja, tiesin, etten voinut luottaa heihin.”

pisteen ei pitänyt käyttäytyä kuin dadaistin harjoituskersantti. Toisaalta ääniavustajat tekevät usein asioita, joita heidän ei kuuluisi tehdä. Viime vuonna saksalainen Amazon-asiakas sai vahingossa noin 1 700 äänitiedostoa jonkun toisen Echosta, joka antoi tarpeeksi tietoa epäonnisen käyttäjän ja hänen tyttöystävänsä nimeämiseksi ja paikantamiseksi. (Amazon katsoi tämän ”valitettavan kommelluksen” johtuvan inhimillisestä virheestä.)

San Franciscossa Shawn Kinnear väitti Kaikunsa aktivoineen itsensä ja sanoi iloisesti: ”aina kun suljen silmäni, näen vain ihmisten kuolevan.”Portlandissa Oregonissa eräs nainen sai selville, että hänen Echonsa oli ottanut asiakseen lähettää nauhoitteita yksityisistä keskusteluista eräälle miehensä työntekijälle. Lausunnossaan Amazon sanoi, että Echo on kuullut väärin Valveen sanan, kuullut väärin pyynnön lähettää viesti, kuullut väärin nimen sen yhteystietoluettelossa ja sitten kuullut väärin vahvistuksen lähettää viestin, Kaikki aikana keskustelun noin puulattiat. Ei hyvin, Alexa.

teknologia herättää usein kaksijakoisuutta: tiedämme, että Facebook ja Google tietävät meistä liikaa, mutta silti käytämme edelleen heidän palveluitaan, koska ne ovat niin pirun käteviä. Ääniavustajat ovat kuitenkin harvinaisen polarisoivia. Ihmiset, jotka pitävät niitä pahaenteisinä ja tunkeilevina (minä mukaan lukien), pitävät harrastajia omahyväisinä, kun taas ne, jotka pitävät niitä hyödyllisinä ja hyväntahtoisina, pitävät epäilijöitä vainoharhaisina teknofobeina. On yksi kysymys freighted kanssa suurempia kysymyksiä meidän suhde teknologiateollisuuden: pitäisikö sinun päästää Alexa kotiisi?

tammikuussa Amazonin laitteiden varatoimitusjohtaja David Limp paljasti, että yhtiö oli myynyt yli 100 miljoonaa Alexa-yhteensopivaa laitetta. Viime vuonna Yhdysvalloissa, jossa joka viides aikuinen omistaa kodin ääni avustaja, Alexa oli 70% Yhdysvaltain markkinaosuus, kun Google Assistant n 24%. Siksi on parasta tulla sellaiseksi, mitä Shoshana Zuboff bestsellerissään Valvontakapitalismin aikakausi kutsuu ”yhdeksi ääneksi”: hallitsevaksi ekosysteemiksi, joka antaisi operaattorilleen”kyvyn ennakoida ja rahastaa kaikki ihmisten hetket kaikkina päivinä”. Zuboff kutsuu Alexan syntymää ”kynnystapahtumaksi”.

Alexa on kuitenkin kasvanut aikakaudella, jolloin ”viiden suuren” teknologiayritysten: Amazonin, Applen, Facebookinja Google / Alphabetin ja Microsoftin valta ja moraali ovat lisääntyneet. Edward Snowdenin tietovuotojen ja Cambridge Analytica-skandaalin kaltaiset tapahtumat ovat tahranneet Piilaakson utopistiset lupaukset. Toimitusjohtajat eivät todennäköisesti vähättele yksityisyyshuolia. Tekniikkatoimittajat ovat todennäköisemmin arvostelijoita kuin cheerleaderit. Poliitikot ovat halukkaampia vaatimaan yrityksiä vastuuseen.

Tämä vuosi on ollut erityisen hankala. Viimeisen puolen vuoden aikana Bloomberg, The Guardian, Vice News ja belgialainen uutiskanava VRT ovat vähitellen paljastaneet, että kaikki big five ovat käyttäneet ihmisurakoitsijoita analysoidakseen pienen osan ääniavustajien äänityksistä. Vaikka tallenteet on anonymisoitu, ne sisältävät usein tarpeeksi tietoa käyttäjän tunnistamiseksi tai nolaamiseksi – varsinkin, jos ne kuulevat luottamuksellisia lääketieteellisiä tietoja tai tahatonta seksinauhaa. Paljastukset olivat viimeinen pisara monelle Alexa-skeptikolle. ”Elämme itse luomassamme teknodystopiassa. Jos kotonasi on vielä Alexa tai mikä tahansa muu ääniavustaja, sinua varoitettiin”, kirjoitti Gizmodo-kirjailija Matt Novak.

Amazonilla ja toisessa big-five-yhtiössä työskennellyt Josephson pitää näiden yritysten vastustusta oikeutettuna. ”Heillä ei ole mielestäni minkäänlaista kiinnostusta miettiä, mikä näiden tuotteiden vaikutus tulee olemaan. On naurettavaa, että heitä kohdellaan oikeina ihmisinä, jotka käyttävät valtaa. emme sallisi sitä millään muulla alalla. He eivät suoraan sanottuna ole turvallisia tietojen vartijoita, joita he keräävät päivittäin tietämättämme.”

Ääniohjaus valtasi yleisön mielikuvituksen ensimmäisen kerran 60-luvulla HAL 9000: n, tuntevan tietokoneen kautta vuonna 2001: A Space Odyssey, Ja Starship Enterprisen loputtomasti auttavan tietokoneen Star Trekissä. Viimeksi mainittu oli tärkeä vertailukohta Amazonin Echo: n ja Google Assistant: in kehittäneille tiimeille. ”Kirkas valo, loistava valo, joka on vielä monen vuoden, monen vuosikymmenen päässä, on luoda uudelleen Star Trek-tietokone”, Limp kertoi konferenssiyleisölle vuonna 2017.

reaalimaailmassa puheentunnistus yleistyi vasta, kun Apple toi markkinoille puhelimella toimivan ääniavustajansa Sirin vuonna 2011. Alexa menee paljon pidemmälle asuttamalla käyttäjän kotiin. Kolme vuosikymmentä sitten tietojenkäsittelytieteilijä Mark Weiser kutsui tällaista kitkatonta ekosysteemiä ”ubiquitous computingiksi”. Vuonna 2015 Googlen Eric Schmidt ennakoi päivää, jolloin internet on ”osa läsnäoloasi koko ajan”, mikä tekee tosielämän käytöksestäsi yhtä mappable kuin mitä teet kannettavalla tietokoneella tai puhelimella. Et koskaan ole offline-tilassa.

Gizmodon toimittaja Adam Clark Estes oli aluksi innoissaan ensimmäisestä suuresta laiteinnovaatiosta sitten Applen iPadin neljä vuotta aiemmin. Mitä enemmän hän kuitenkin oppi tekniikasta, sitä vähemmän hän piti siitä. Hänen oma Kaikunsa heräisi äänettömänä. Tallenteita alkoi ilmestyä todistusaineistona oikeusjutuissa. FBI ei vahvistanut tai kiistänyt käyttäneensä Alexaa valvontatarkoituksiin. ”Minulle kävi yhä selvemmäksi, että yksityisyyden valvojat olivat oikeassa”, hän sanoo. ”Se on tukikohdassaan salakuuntelulaite.”

Ääniavustajat kuvailevat tehokkuuden ja yksityisyyden välistä jännitettä. Tekniikka on edelleen syvästi epätäydellinen; useammassa kuin yhdessä kymmenestä yhden Bloombergin lähteen analysoimasta selostuksesta Alexa heräsi vahingossa. Äänikomentojen tarkka tulkitseminen ottamalla huomioon eri kielet, aksentit, äänet, asiayhteydet ja ympäristön sekavuus vaatii paljon enemmän laskentatehoa kuin yksi laite voi sisältää. Siksi suurin osa työstä tehdään pilvessä, jolloin ihmismonitorit pystyvät keräämään ja analysoimaan äänitallenteita. ”Rakennat infrastruktuuria, jota suuret monikansalliset yritykset ja valtion valvontalaitteet voivat myöhemmin käyttää ei-toivotuilla tavoilla, ja vahingolliset hakkerit vaarantavat sen”, sanoo tohtori Michael Veale, digitaalisten oikeuksien ja sääntelyn luennoitsija UCL: n oikeustieteellisessä tiedekunnassa University College Londonissa.

kaikki ääniavustajat eivät ole tasa-arvoisia. Apple, jonka voitot eivät perustu ensisijaisesti tiedonkeruuseen, käyttää enemmän laitteen sisäistä laskentaa ja salausta molemmissa päissä. ”Apple on paras yksityisyydessä”, Estes sanoo. ”Samaan aikaan luulen, että kaikki ovat samaa mieltä siitä, että Siri on syvältä.”Amazon Echo ja Google Assistant ovat paljon luotettavampia, koska näiden yritysten liiketoimintamallit riippuvat siitä, että tiedämme sinusta niin paljon enemmän, jotta voimme mikrotarkistaa mainontaa. He haluavat kehystää tiedonkeruun keinona parantaa palveluja ja vähätellä valtavia kaupallisia etuja.

Google ja Amazon voisivat tietysti halutessaan parantaa teknologiaa maksamalla ihmisille sen testaamisesta – jollaista Josephson teki vuonna 2012 – sen sijaan, että he kohtelisivat asiakkaitaan ilmaisena tutkimus-ja kehitystietokantana. Tai he voisivat mainostaa sitä tosiasiaa, että ihmiset saattavat tutkia nauhoituksia. ”Sen pitäisi olla laatikossa”, sanoo teknologian väärinkäyttöä vastaan kampanjoivan Electronic Frontier Foundationin projektijohtaja Jeremy Gillula. Teknologiayritysten motiivien Antelias tulkinta on piittaamatonta utopianismia, mutta Gillulan mukaan ne eivät menisi niin pitkälle peitelläkseen niitä, jos ne olisivat todella naiiveja teknologiansa vaikutuksista. ”Epäilen, etteivät he uskoneet kenenkään välittävän. Luulen, että he yrittivät pitää sen salassa, koska jos käyttäjät tietäisivät, mitä on tekeillä, he saattaisivat lopettaa laitteiden ostamisen. Se oli laskelmoitu liiketoimintapäätös.”

vastauksena Amazonin tiedottaja sanoo: ”asiakkaiden luottamus on kaiken tekemämme keskiössä ja otamme asiakkaiden yksityisyyden erittäin vakavasti. Tarkistamme jatkuvasti käytäntöjämme ja toimintatapojamme varmistaaksemme, että Tarjoamme asiakkaille parhaat kokemukset ja yksityisyysvalinnat. Tarjoamme asiakkaille useita yksityisyyden valvontaa, mukaan lukien mahdollisuus tarkistaa ja poistaa äänitallenteita. Auttaa parantamaan Alexa, me manuaalisesti tarkistaa erittäin pieni näyte Alexa pyyntöjä vahvistaa Alexa ymmärtänyt ja vastasi oikein. Asiakkaat voivat kieltäytyä siitä, että heidän äänitallenteensa sisältyvät kyseiseen arviointiprosessiin.”

silti on kerta toisensa jälkeen osoitettu, että mainostuksissaan ja taitavasti muotoilluissa tietosuojakäytännöissään teknologiayritykset rutiininomaisesti hämärtävät tietojensa keräämisen laajuuden ja luonteen. ”Google ja Amazon ovat osoittaneet meille, että ne ovat taipuvaisia ottamaan niin paljon kuin voivat, kunnes joku saa heidät kiinni kädellään keksipurkissa”, Estes sanoo. ”En halua olla dramaattinen, mutta en usko, että tulemme koskaan tuntemaan olevamme turvassa heidän tiedonkeruukäytännöiltään. Hallituksen sääntely on ainoa asia, joka pysäyttää lisävahingot.”

Yhdysvaltain hallitus on ollut haluton toimimaan. Heinäkuussa 2015 Electronic Privacy Information Center (Epic), pitkäaikainen voittoa tavoittelematon organisaatio, joka on omistautunut ”demokraattisille arvoille informaation aikakaudella”, vaati tutkimusta ”aina päällä”-laitteista, mukaan lukien puheavustajat. He eivät ole vielä saaneet vastausta. ”Markkinaehtoiset ratkaisut eivät toimi tällä alalla, koska yritykset ovat saaneet salata omien tuotteidensa viat”, sanoo Epicin toiminnanjohtaja Marc Rotenberg. Hän lisää: ”Jos sinä tai minä laittaisimme jonkun toisen kotiin laitteen, joka pystyy tallentamaan heidän yksityisviestinsä, rikkoisimme liittovaltion salakuuntelulakia.”

heinäkuussa demokraattien kongressiedustaja Seth Moulton esitteli Automatic Listening Exploitation Act-lain, joka rankaisisi yrityksiä, joiden ääniavustajat ja älykkäät ovikellot (kuten Amazonin Rinki) nauhoittavat keskusteluja ilman lupaa, mutta Gillula pitää sitä ”melko heikkona lainsäädäntönä”. Euroopassa, jolla on karvasta ensikäden kokemusta totalitaaristen hallintojen harjoittamasta massavalvonnasta, sääntelijöillä on terävämmät hampaat. Hampurin valtava tietosuojavaltuutettu Johannes Caspar pakotti äskettäin Googlen keskeyttämään äänitallenteiden transkription koko EU: ssa, kun taas Apple ja Facebook keskeyttivät samanaikaisesti transkription kaikkialla maailmassa. (Amazon vain salli käyttäjien jättäytyä pois ihmisen seuranta.) Britannian Tiedotusvaltuutetun toimisto tutkii, rikkooko ihmisten valvonta yleistä tietosuoja-asetusta. ”Meillä on tällä alalla jo merkittävää sääntelyä, mutta keskeistä on valvonta”, Veale sanoo. ”Kuten kaikki Euroopan tietosuojaviranomaiset, Tiedotusvaltuutetun toimisto on alirahoitettu ja ylikuormitettu, ja se tarvitsee merkittäviä investointeja ja tukea kansalaisten perusoikeuksien suojelemiseksi.”

ilman tehokasta sääntelyä ääniavustajien tunkeilevampaa hyväksikäyttöä vastaan ei ole puolustusta. Määritelmän mukaan laitteet ovat aina päällä, silloinkin kun ne eivät ole hereillä, ne kuuntelevat jatkuvasti, vaikka eivät aina lähetä. Gillulan mukaan ei ole teknisiä esteitä sille, että uinuvat laitteet voisivat esimerkiksi seurata käyttäjien televisionkatselua reagoimalla ohjelmiin ja mainoksiin upotettuihin kimeisiin signaaleihin tai tunnistaa, kuka talossa milloinkin on. ”Siitä tulee olennaisesti jatkuvaa valvontaa”, Gillula sanoo. ”Olen toiveikas, että yritykset eivät koskaan lähtisi tälle dystooppiselle polulle, mutta saatoin nähdä niiden sanovan: ’Oh, se on ominaisuus: tiedä, milloin lapsesi ovat kotona!”Houkutteleva piirre on se, miten useimmat näistä asioista alkavat.”

minne he päätyvät on herättänyt yksityisyyden vahtikoirien lisäksi kirjailijoita. Ääniavustajien dystopiat näkyvät tieteiskirjallisuudessa, kuten Spike Jonzen elokuvassa Her, Black Mirror ja Years and Years. Niiden kaikkien takana häämöttää George Orwellin telescreenin” never-sleeping ear ”vuonna 1984:” you had to live-did live, from habit that became instinct – in the olettaen, että jokainen tekemäsi ääni kuultiin.”Echo Show’ ta, älykästä avustajaa, jossa on näyttö ja kamera, verrattiin laajasti telescreeniin, kun se esiteltiin kaksi vuotta sitten. ”Alexa, näytä minulle dystopia”, letkautti Vice. Joanna Kavennan satiirisessa romaanissa Zed kirjailija tutkii tosielämän ääniavustajien ”outoa toimimatonta palvelijan aspektia” (joissa kaikissa on oletusasetuksena naisäänet) ja yhden äänen sosiopoliittisia seurauksia: Zedissä teknologian monopoli, Beetle, on kaikkialla läsnä ja vailla vastuuta. ”Demokraattinen ajatus on, että meillä on tarkoitus olla läpinäkyviä yrityksiä ja hallituksia, kun taas ihmisillä on yksityisyyttä”, hän sanoo. ”Meillä on käänteinen. Ihmiset ovat levottomia, koska siitä ei keskustella kypsällä, demokraattisella tasolla.”

Kavenna on huolissaan siitä, että Yhdysvaltain osavaltiot eivät suinkaan aio säätää lakeja käyttäjien yksityisyyden suojelemiseksi, vaan pyrkivät pääsemään käsiksi ääniavustajien tallenteisiin rikostorjunnan ja kansallisen turvallisuuden nimissä. Viime vuonna New Hampshiressa tuomari nousi otsikoihin käskemällä Amazonia toimittamaan tutkijoille Echo-tallenteita kaksoismurhasta. ”Se asettaa heidät hyvin monimutkaiseen asemaan asiakkaidensa ja hallituksen väliin”, Kavenna sanoo. ”Olemme hyvin riippuvaisia poliittisesta hallinnosta.”

Rotenberg yhtyy: ”Jos olet autoritaarinen maa, miksi ei vain ajaa äänivirran suoraan hallituksen valvontavirasto ja väittävät, että se on vähentää rikollisuutta kotona? Se on pelottavaa, mutta ajateltavissa.”

nykyään ääniavustajat eivät ole yksityisyydelle pakottavin uhka vain siksi, että ne ovat valinnaisia. Kasvojentunnistuskanneri voi vakoilla sinua julkisessa tilassa, mutta Alexa, kuten vampyyri, on kutsuttava kotiisi. Ainoa todella tehokas voima, jonka voit käyttää tätä teknologiaa, on olla käyttämättä sitä. Mutta tietoisen valinnan tekeminen vaarantuu harhaanjohtavalla markkinoinnilla ja heikentää Amazonin pyrkimyksiä upottaa Alexa lukemattomiin tuotteisiin, kuten autoihin, televisioihin, kuulokkeisiin, mikroaaltoihin, termostaatteihin ja kelloihin, samalla kun allekirjoitetaan sopimuksia taloyhtiöiden ja hotelliketjujen kanssa, joilla kaikilla on silmä tulla yhdeksi ääneksi. ”Ääniohjaus pakotetaan kuluttajien kurkuista alas, halusivat he sitä tai eivät”, Estes sanoo.

Emme ole vielä perillä. Teknologiayritykset luottavat teknologisen väistämättömyyden myyttiin peittääkseen tekemänsä liiketoimintapäätökset ja muiden mallien mahdollisuuden. Heidän haastamisensa on taistelua tulevaisuutta vastaan. Hölynpölyä, Kavenna sanoo. ”Onko teknologian väistämätön seuraus? Ei, se on ideologinen teknologian sovellus. Jos rakennat rakennuksen, sinun ei tarvitse rakentaa panoptikonia. Sen ei tarvitse olla sitä, mitä meillä nyt on. He usein väittävät, että jos vastustat tätä, olet uusluddiitti. Sen myytin ansiosta monista ihmisistä on tullut uskomattoman rikkaita.”

kukaan niistä, joiden kanssa puhuin, ei omista kotiääniavustajaa, eivätkä he neuvoisi ketään hankkimaan sellaista, mutta he kaikki ovat yhtä mieltä siitä, että olisi mahdollista kehittää laite, joka tarjoaa suosituimmat palvelut kunnioittaen käyttäjän yksityisyyttä. Jos koko toimiala seuraisi Applen esimerkkiä siinä, että ihmisseurannasta tulisi opt-in eikä opt-out, se olisi vahva alku. Sitten, kun käsittelyteho kasvaa, voidaan suorittaa enemmän tehtäviä laitteen sisällä. Mutta se tarkoittaisi tietysti sitä, että menettäisimme ne mehukkaat, rahakkaat tiedot. ”Monet asiat, joita todella haluaa tehdä, eivät vaadi Internetiä, Ja kun katkaisee pääsyn pilveen, yksityisyyshuolet katoavat”, Estes sanoo. ”Siellä on aina potentiaalia asiat saada paremmin-ja siellä tulee aina olemaan taistelu päästä siihen pisteeseen.”

Jeremy Gillula on niin vakuuttunut siitä, että turvallinen, täysin käyttäjän ohjailema ääniavustaja on mahdollinen, että hän suunnittelee omaa, avoimen lähdekoodin ohjelmistoa käyttävää ohjelmaansa.

”pääsen sinne”, hän sanoo iloisesti. ”En ole vielä 100% tyytyväinen, mutta se sytyttää ja sammuttaa valot.”

{{#ticker}}

{{topLeft}}

{{bottomLeft}}

{{topRight}}

{{bottomRight}}

{{#goalExceededMarkerPercentage}}

{{/goalExceededMarkerPercentage}}

{{/ticker}}

{{heading}}

{{#paragraphs}}

{{.}}

{{/paragraphs}}{{highlightedText}}

{{#cta}}{{text}}{{/cta}}

Remind me in May

olemme yhteydessä muistuttaaksemme osallistumisesta. Varo viestiä sähköpostiisi toukokuussa 2021. Jos sinulla on kysyttävää osallistumisesta, ota meihin yhteyttä.

• Jaa Facebookissa

Jaa Facebookilla Jaa Twitterissä

• Jaa sähköpostilla

Jaa LinkedInissä

• Jaa Pinterestissä
• jaa WhatsAppissa

Jaa Messengerissä