” Alexa, betörsz a magánéletembe?”- a hangsegédeink sötét oldala
egy nap 2017-ben Alexa gazember lett. Amikor Martin Josephson, aki Londonban él, hazajött a munkából, hallotta, hogy az Amazon Echo Dot hangsegédje töredékes parancsokat köpött ki, látszólag az eszközzel való korábbi interakciói alapján. Úgy tűnt, hogy visszaüt a kérések, hogy vonatjegyeket foglaljon az általa már megtett utakra, és rögzítse azokat a TV-műsorokat, amelyeket már nézett. Josephson nem mondta az ébresztő szót – “Alexa”–, hogy aktiválja, és semmi, amit mondott, hogy megállítja. Ez volt, mondja, “Kafkaesque”.
Ez különösen érdekes volt, mert Josephson (nem az igazi neve) volt az Amazon alkalmazottja. Három évvel korábban, ő önként, hogy üljön egy szobában szavalt egy sor látszólag értelmetlen mondatok mikrofonba egy nyilvánosságra nem hozott célra. Csak akkor, amikor az Amazon 2014-ben kiadta az Echo-t az Egyesült Államokban, rájött, hogy mit dolgozott. Vett egy pontot, az Echo olcsóbb, kisebb modelljét, miután 2016-ban piacra dobták, és egészen addig hasznosnak találta, amíg el nem pusztult. Amikor a pont kitörése alábbhagyott, kihúzta és lerakta a kukába. “Kicsit bolondnak éreztem magam” – mondja. “Miután az Amazonnál dolgoztam, és láttam, hogyan használják az emberek adatait, tudtam, hogy nem bízhatok bennük.”
a pontnak nem kellett volna úgy viselkednie, mint egy dadaista fúró őrmester. Aztán megint, a hangsegédek gyakran olyan dolgokat csinálnak, amelyeket nem szabad tenniük. Tavaly egy németországi Amazon-ügyfelet tévedésből mintegy 1700 hangfájlt küldtek el valaki más Echo-jából, elegendő információt szolgáltatva ahhoz, hogy megnevezzék és megtalálják a szerencsétlen felhasználót és barátnőjét. (Az Amazon ezt a “szerencsétlen balesetet” emberi hibának tulajdonította.)
San Franciscóban Shawn Kinnear azt állította, hogy visszhangja aktiválta magát, és vidáman mondta: “minden alkalommal, amikor becsukom a szemem, csak azt látom, hogy emberek halnak meg.”Az oregoni Portlandben egy nő felfedezte, hogy visszhangja magára vette, hogy privát beszélgetésekről felvételeket küldjön férje egyik alkalmazottjának. Egy nyilatkozatban, Amazon azt mondta, hogy a visszhang kell misheard az ébrenlét szó, rosszul a kérelmet, hogy küldjön egy üzenetet, misheard nevet a névjegyzékben, majd misheard visszaigazolást küldeni az üzenetet, minden beszélgetés során keményfa padló. Nem túl jól, Alexa.
a technológia gyakran inspirálja az ambivalenciát: tudjuk, hogy a Facebook és a Google túl sokat tud rólunk, mégis továbbra is használjuk szolgáltatásaikat, mert annyira átkozottul kényelmesek. A hangsegédek azonban szokatlanul polarizáltak. Azok az emberek, akik baljósnak és invazívnak tartják őket (magamat is beleértve), önelégültnek tartják a rajongókat, míg azok, akik hasznosnak és jóindulatúnak találják őket, paranoid technofóbnak tekintik a szkeptikusokat. Van egy kérdés freighted nagyobb kérdéseket a kapcsolatunkat a tech ipar: ha hagyja Alexa otthonában?
januárban az Amazon eszközök vezető alelnöke, David Limp kiderítette, hogy a vállalat több mint 100m Alexa-kompatibilis eszközt értékesített. Tavaly az Egyesült Államokban, ahol minden ötödik felnőtt rendelkezik otthoni hangsegéddel, az Alexa 70% – os amerikai piaci részesedéssel rendelkezett, szemben a Google Assistant 24% – ával. Ezért a legjobb helyzetben van az, amit Shoshana Zuboff bestsellerében, a felügyeleti kapitalizmus korában “egy hangnak” nevez: a domináns ökoszisztéma, amely az üzemeltetőjének “képes arra, hogy minden nap minden ember pillanatát előre lássa és pénzt szerezzen”. Zuboff Alexa születését “küszöbértéknek” nevezi.
Alexa azonban a “big five” tech cégek erejével és erkölcsével kapcsolatos egyre növekvő szkepticizmus korszakában nőtt fel: az Amazon, az Apple, a Facebook, a Google/Alphabet és a Microsoft. Az olyan események, mint az Edward Snowden-kiszivárogtatás és a Cambridge Analytica-botrány elhomályosították A Szilícium-völgy utópisztikus ígéreteit. A vezérigazgatók kevésbé valószínű, hogy trivializálják az adatvédelmi aggályokat. A Tech újságírók nagyobb valószínűséggel kritikusak, mint a pompomlányok. A politikusok inkább hajlandóak elszámolni a cégekkel.
Ez az év különösen trükkös volt. Az elmúlt fél évben a Bloomberg, a The Guardian, a Vice News és a VRT belga hírcsatorna fokozatosan kiderítette, hogy mind a nagy öt ember segítségével elemezték a hang-asszisztens felvételek kis százalékát. Bár a felvételeket anonimizálják, gyakran tartalmaznak elegendő információt a felhasználó azonosításához vagy zavarba hozásához – különösen akkor, ha az, amit hallanak, bizalmas orvosi információ vagy véletlen szexvideó. A kinyilatkoztatások voltak az utolsó szalma sok Alexa szkeptikusnak. “Saját gyártású techno-dystopiában élünk. Ha még mindig van Alexa vagy más hangsegéd az otthonában, figyelmeztettek” – írta Matt Novak, a Gizmodo írója.
Miután az Amazonnál és egy másik nagy-öt vállalatnál dolgozott, Josephson szerint indokolt ez a cégekkel szembeni ellenállás. “Véleményem szerint nulla érdeklődésük van arra, hogy vajon mi lesz ezeknek a termékeknek a hatása. Ahhoz, hogy úgy kezeljük őket, mint a megfelelő embereket, hogy ezt a hatalmat használják, nevetséges helyzet, amelyet egyetlen más iparágban sem engednénk meg. Ők, őszintén szólva, nem biztonságos őrzői az adatoknak, amelyeket minden nap gyűjtenek, anélkül, hogy tudnánk.”
A hangvezérlés először a 60-as években, a HAL 9000-en, a 2001-es érző számítógépen, a Space Odyssey-n, valamint az Enterprise csillaghajó végtelenül hasznos számítógépén keresztül ragadta meg a nyilvánosság képzeletét a Star Trekben. Ez utóbbi fontos referenciapont volt azoknak a csapatoknak, amelyek kifejlesztették az Amazon Echo-t és a Google Assistant-t. “A ragyogó fény, a ragyogó fény, amely még mindig sok év, sok évtized távol van, az, hogy újra létrehozza a Star Trek számítógépet” – mondta Limp a konferencia közönségének 2017-ben.
a Való Világban a hangfelismerés nem vált általánossá, amíg az Apple 2011-ben elindította a telefon alapú hangsegédjét, a Siri-t. Alexa sokkal tovább megy a felhasználó otthonának gyarmatosításával. Három évtizeddel ezelőtt Mark Weiser, a korábbi számítógépes tudós ezt a fajta súrlódásmentes ökoszisztémát “mindenütt jelenlévő számítástechnikának”nevezte. 2015-ben a Google Eric Schmidt előre látta azt a napot, amikor az internet “mindig része lesz a jelenlétednek”, így a valós életben való viselkedése olyan leképezhető, mint amit laptopján vagy telefonján csinál. Soha nem lesz offline.
Adam Clark Estes, a Gizmodo szerkesztője kezdetben izgatott volt az első nagy hardver-innováció az Apple négy évvel korábbi iPad óta. Minél többet tanult a technológiáról, annál kevésbé tetszett neki. A saját visszhangja zavartalanul ébredne fel. A felvételek bizonyítékként kezdtek megjelenni a bírósági ügyekben. Az FBI nem volt hajlandó megerősíteni vagy tagadni, hogy Alexa-t használja megfigyelési célokra. “Egyre világosabbá vált számomra, hogy az Adatvédelmi őröknek igaza volt” – mondja. “Ez a bázis, egy wiretapping eszköz.”
A Hangsegédek kifejezik a hatékonyság és a magánélet közötti feszültséget. A technológia még mindig mélyen tökéletlen; a Bloomberg egyik forrása által elemzett 10 átiratból egynél több esetben Alexa véletlenül felébredt. A hangutasítások pontos értelmezése a különböző nyelvek, ékezetek, hangok, kontextusok és környezeti rendetlenség fokának figyelembe vételével sokkal több számítási teljesítményt igényel, mint amennyit egyetlen eszköz tartalmazhat. Ezért a munka nagy részét a felhőben végzik, így az emberi monitorok képesek hangfelvételek gyűjtésére és elemzésére. “Olyan infrastruktúrát építesz, amelyet később a nagy multinacionális vállalatok és az állami megfigyelő apparátus nem kívánatos módon együtt tud működni, és amelyet rosszindulatú hackerek veszélyeztetnek” – mondja Dr. Michael Veale, a Londoni Egyetem UCL jogi karának digitális jogokkal és szabályozással foglalkozó előadója.
nem minden hangsegéd egyenlő. Az Apple, amelynek nyeresége nem elsősorban az adatgyűjtésre támaszkodik, mindkét végén több eszközalapú számítást és titkosítást használ. “Az Apple a legjobb a magánéletben” – mondja Estes. “Ugyanakkor azt hiszem, mindenki egyetért azzal, hogy Siri szar.”Az Amazon Echo és a Google Assistant sokkal megbízhatóbb, mert ezek a vállalatok üzleti modelljei attól függnek, hogy sokkal többet tudnak-e rólad a mikrotarget reklámozás érdekében. Szeretnek keret adatgyűjtés, mint azt, hogy javítsa a szolgáltatások, miközben játszik le a hatalmas kereskedelmi előnyöket.
A Google és az Amazon természetesen úgy dönthet, hogy a technológiát úgy fejleszti, hogy fizet az embereknek, hogy teszteljék – ezt a munkát Josephson végezte 2012 – ben-ahelyett, hogy ügyfeleiket ingyenes kutatási-fejlesztési adatbázisként kezelnék. Vagy hirdethetik azt a tényt, hogy az emberek tanulmányozhatják a felvételeket. “A dobozon kell lennie” – mondja Dr. Jeremy Gillula, az Electronic Frontier Foundation projektigazgatója, egy csoport, amely a technológiával való visszaélés ellen kampányol. A techcégek indítékainak nagylelkű értelmezése egy hallgatatlan utópianizmus, de Gillula azt állítja, hogy ha valóban naivak lennének technológiájuk következményeivel kapcsolatban, akkor nem mennének ilyen messzire, hogy elrejtsék őket. “Kétlem, hogy azt hitték, senkit sem érdekel. Azt hiszem, megpróbálták csendben tartani, mert ha a felhasználók tudják, mi folyik, akkor abbahagyhatják az eszközök vásárlását. Számított üzleti döntés volt.”
válaszul az Amazon szóvivője azt mondja: “az ügyfelek bizalma középpontjában áll minden, amit csinálunk, és nagyon komolyan vesszük az ügyfelek magánéletét. Folyamatosan felülvizsgáljuk gyakorlatainkat és eljárásainkat, hogy biztosítsuk az ügyfelek számára a legjobb tapasztalatokat és Adatvédelmi döntéseket. Számos adatvédelmi ellenőrzést biztosítunk az ügyfeleknek, beleértve a hangfelvételek áttekintését és törlését. Az Alexa javítása érdekében manuálisan áttekintjük az Alexa kérések rendkívül kicsi mintáját, hogy megerősítsük Alexa megértését és helyes válaszát. Az ügyfelek lemondhatnak arról, hogy hangfelvételeiket belefoglalják a felülvizsgálati folyamatba.”
mégis időről időre bebizonyosodott, hogy reklámjaikban és ravasz módon megfogalmazott adatvédelmi irányelveikben a techcégek rutinszerűen elhomályosítják adatgyűjtésük mértékét és jellegét. “A Google és az Amazon megmutatta nekünk, hogy hajlandóak annyit venni, amennyit csak tudnak, amíg valaki elkapja őket a kezükkel a cookie-jar-ban” – mondja Estes. “Utálom, hogy drámai, de nem hiszem, hogy valaha is biztonságban érezzük magunkat az adatgyűjtési gyakorlatoktól. A kormányzati szabályozás az egyetlen dolog, ami megállítja a további károkat.”
az amerikai kormány vonakodott cselekedni. 2015 júliusában az elektronikus Adatvédelmi Információs Központ( Epic), egy régóta létrehozott nonprofit szervezet, amely az “információs korszak demokratikus értékeinek” szentelt, vizsgálatot kért az “mindig on” eszközök, köztük a hangsegédek ellen. Még nem kaptak választ. “A piaci alapú megoldások nem működnek ezen a területen, mert a vállalatoknak megengedték, hogy elrejtsék saját termékeik hibáit” – mondja Marc Rotenberg, az Epic ügyvezető igazgatója. Hozzáteszi: “Ha Ön vagy én olyan eszközt helyeznénk el valaki más otthonában, amely képes megragadni a magánkommunikációjukat, megsértenénk a szövetségi lehallgatási törvényt.”
júliusában, egy Demokrata képviselő, Seth Moulton, bevezette az Automatikus Figyel Kizsákmányolás Törvény, ami hátrányosan érintené a vállalatok kinek a hangja asszisztensek, okos ajtócsengő (mint például az Amazon Gyűrű) rekord beszélgetések engedély nélkül, de Gillula úgy véli, hogy “elég gyenge jogszabályok”. Európában, amelynek keserű első kézből szerzett tapasztalata van a totalitárius rendszerek tömeges megfigyeléséről, a szabályozók élesebb fogakkal rendelkeznek. Johannes Caspar, Hamburg adatvédelmi biztosa nemrég arra kényszerítette a Google-t, hogy függessze fel a hangfelvételek átírását az egész EU-ban, míg az Apple és a Facebook egyidejűleg leállította az átírást a világ minden táján. (Az Amazon csak lehetővé tette a felhasználók számára, hogy kilépjenek az emberi megfigyelésből.) A brit Információs Biztos Hivatala vizsgálja, hogy az emberi felügyelet megszegi-e az általános adatvédelmi rendeletet. “Ezen a területen már jelentős szabályozás van, de a legfontosabb a végrehajtás” – mondja Veale. “Mint minden európai adatvédelmi hatóság, az Információs Biztos Hivatala is alulfinanszírozott és túlfeszített, és jelentős beruházásokra és támogatásra van szüksége a polgárok alapvető jogainak védelme érdekében.”
hatékony szabályozás nélkül nincs védelem a hangsegédek invazív kiaknázása ellen. Definíció szerint mindig be van kapcsolva, még akkor is, ha nem ébren vannak, az eszközök folyamatosan hallgatnak, bár nem mindig továbbítják. Gillula szerint nincs technikai akadálya annak, hogy a szunnyadó eszközök például a műsorokba és reklámokba ágyazott magas hangú jelekre reagálva nyomon követhessék a felhasználók tévénézését, vagy bármikor azonosíthassák, hogy ki van a házban. “Ez lényegében állandó megfigyeléssé válik” – mondja Gillula. “Remélem, hogy a vállalatok soha nem mennek le ezen a disztópikus úton, de láttam őket, hogy azt mondják:” Ó, ez egy jellemző: tudja meg, mikor vannak otthon a gyerekek!”Vonzó tulajdonság az, hogy ezeknek a dolgoknak a többsége hogyan kezdődik.”
ahol a végén horganyzott nem csak Adatvédelmi őrkutyák, de írók. A hangsegédek disztópikus következményei a sci-fiben jelennek meg, beleértve a Spike Jonze Her című filmet, a Black Mirrort és az éveket. Mögöttük minden szövőszék a “soha nem alvó fül” George Orwell teleszkóp tizenkilenc nyolcvannégy: “meg kellett élni-élt, a szokás, hogy lett ösztön-abban a feltételezésben, hogy minden hangot, amit tett hallotta.”Az Echo Show-t, egy intelligens asszisztenst, képernyővel és kamerával, széles körben hasonlították össze a teleszkóppal, amikor két évvel ezelőtt bemutatták. “Alexa, mutasd meg a disztópiát” – viccelődött Vice. Joanna Kavenna van szatirikus regény Zed, az író feltárja a “furcsa diszfunkcionális-szolga szempont” az igazi hang asszisztensek (amely mind a nő, mint az alapértelmezett beállítás), valamint a szociálpolitikai következményeit Egy Hang: a Zed, a tech monopólium, Bogár, jelen, s érthetetlen. “A demokratikus elképzelés az, hogy átlátható vállalatokat és kormányokat kell létrehoznunk, míg az embereknek magánéletük van” – mondta. “Megvan az inverz. Az emberek nyugtalanok, mert nem érett, Demokratikus szinten vitatják meg.”
Kavenna aggódik amiatt, hogy a felhasználói adatvédelem védelme érdekében az Egyesült Államok a bűnmegelőzés és a nemzetbiztonság nevében igyekszik hozzáférni a hang-asszisztens felvételekhez. Tavaly egy New Hampshire-i bíró címsorokat készített azzal, hogy elrendelte az Amazonnak, hogy nyújtson be egy kettős gyilkosság Echo felvételeit a nyomozóknak. “Ez nagyon bonyolult helyzetbe hozza őket ügyfeleik és a kormány között” – mondta Kavenna. “Nagyon függünk a politikai rendszertől.”
Rotenberg egyetért: “Ha autoriter ország vagy, miért nem vezeted az audio stream-et egyenesen egy kormányzati felügyeleti ügynökséghez, és azzal érvelsz, hogy a bűnözés csökkentése az otthonban? Ijesztő gondolkodni, de elképzelhető.”
ma a hangsegédek nem a legégetőbb veszélyt jelentik a magánéletre csak azért, mert opcionálisak. Egy arcfelismerő szkenner kémkedhet rád egy nyilvános térben, de Alexát, mint egy vámpírt, meg kell hívni otthonába. Az egyetlen igazán hatékony erő, amellyel ezt a technológiát felhasználhatja, nem az, hogy használja. De tájékozottan veszélyezteti félrevezető marketing pedig aláásta az Amazon erőfeszítéseit, hogy beágyazása Alexa a számtalan termékek, beleértve az autók, televíziók, fejhallgató, mikrohullámú sütő, termosztátok, valamint az órák, miközben aláírásával foglalkozik housebuilding cégek hotel láncok, csak egy szem válik a Hang. “A hangvezérlést a fogyasztók torkára kényszerítik, akár tetszik, akár nem” – mondja Estes.
még nem vagyunk ott. A techcégek a technológiai elkerülhetetlenség mítoszára támaszkodnak, hogy megakadályozzák az általuk meghozott üzleti döntéseket és más modellek lehetőségét. Kihívást jelent számukra a jövő elleni küzdelem. Nonszensz, mondja Kavenna. “Ez a tech elkerülhetetlen következménye? Nem, ez a technika ideológiai alkalmazása. Ha épít egy épületet, akkor nem kell panoptikont építeni. Nem kell, hogy az legyen, ami most van. Gyakran állítják, hogy ha ellenzik ezt, akkor neo-luddite vagy. Ez a mítosz lehetővé tette, hogy sok ember hihetetlenül gazdag legyen.”
az általam beszélt emberek egyike sem rendelkezik otthoni hangsegéddel, sem azt nem tanácsolnák senkinek, hogy szerezzen egyet, de mindannyian egyetértenek abban, hogy olyan eszköz kifejlesztése lehetséges, amely a legnépszerűbb szolgáltatásokat nyújtja, miközben tiszteletben tartja a felhasználó magánéletét. Ha az egész iparág követné az Apple vezetését abban, hogy az emberi monitoring opt-in helyett opt-out legyen, ez erős kezdet lenne. Ezután a feldolgozási teljesítmény növekedésével több feladat végezhető el az eszközön belül. De ez természetesen azt jelentené, hogy elveszítjük ezt a lédús, pénzt kereső adatot. “Sok olyan dolog, amit igazán meg akarsz csinálni, nem kell az internet, és ha egyszer levágod a felhőhöz való hozzáférést, akkor az adatvédelmi aggályok elhalványulnak” – mondja Estes. “Mindig van lehetőség arra, hogy a dolgok javuljanak – és mindig lesz harc, hogy elérjük ezt a pontot.”
Jeremy Gillula annyira meg van győződve arról, hogy egy biztonságos, teljesen felhasználó által vezérelt hangsegéd lehetséges, hogy saját, nyílt forráskódú szoftvert tervez.
“odaérek” – mondja vidáman. “Még nem vagyok 100% – ban elégedett, de bekapcsolja a lámpákat.”
{{topLeft}}
{{bottomLeft}}
{{topRight}}
{{bottomRight}}
{{/goalExceededMarkerPercentage}}
{{/ticker}}
{{heading}}
{{#paragraphs}}
{{.}}
{{/paragraphs}}{{highlightedText}}
- Share on Facebook
- Share on Twitter
- Share via Email
- Share on LinkedIn
- Share on Pinterest
- Share on WhatsApp
- Share on Messenger
Leave a Reply