jednoho dne v roce 2017 se Alexa stala nepoctivou. Když se Martin Josephson, který žije v Londýně, vrátil z práce domů, slyšel svého hlasového asistenta Amazon Echo Dot, jak vyplivl fragmentární příkazy, zdánlivě na základě jeho předchozích interakcí se zařízením. To se zdá být regurgitating žádosti rezervovat jízdenky na vlak pro cesty již byla přijata a nahrávat TELEVIZNÍ pořady, které měl již sledovali. Josephson neřekl bdělé slovo – „Alexa“ – aby ho aktivoval, a nic, co řekl, by to nezastavilo. Bylo to, jak říká, „Kafkaesque“.

to bylo obzvláště zajímavé, protože Josephson (ne jeho skutečné jméno) byl bývalý zaměstnanec Amazonu. O tři roky dříve, dobrovolně seděl v místnosti a recitoval řetězec zjevně nesmyslných frází do mikrofonu pro nezveřejněný účel. Teprve když Amazon vydal Echo v USA v roce 2014, uvědomil si, na čem pracoval. Koupil Dot, levnější, menší model Echo, poté, co byl uveden na trh v 2016, a zjistil, že je dost užitečný až do dne, kdy se rozbil. Když Tečkův výbuch ustoupil, odpojil ji a uložil do koše. „Cítil jsem se trochu pošetile,“ říká. „Když jsem pracoval v Amazonu a viděl, jak používají data lidí, věděl jsem, že jim nemůžu věřit.“

tečka se neměla chovat jako dadaistický rotmistr. Hlasoví asistenti pak často dělají věci, které nemají dělat. V loňském roce, Amazon zákazníka v Německu byl omylem poslal asi 1700 audio soubory od někoho jiného Echo, poskytuje dostatek informací, aby jméno a vyhledejte nešťastné uživatele a jeho přítelkyně. (Amazon připisoval tuto“ nešťastnou nehodu “ lidské chybě.)

v San Franciscu Shawn Kinnear tvrdil, že se jeho ozvěna aktivovala a vesele řekla: „pokaždé, když zavřu oči, vidím jen lidi umírající.“V Portlandu v Oregonu žena zjistila, že její Echo si vzala na sebe, aby poslala nahrávky soukromých rozhovorů jednomu ze zaměstnanců jejího manžela. V prohlášení, Amazon řekl, že Echo musí mít přeslechl probuzení slovo, přeslechl žádost odeslat zprávu, přeslechl jméno ve svém seznamu kontaktů a pak přeslechnout potvrzení odeslání zprávy, všechny během rozhovoru o dřevěné podlahy. Nic moc, Alexo.

technologie často vzbuzuje ambivalenci: víme, že Facebook a Google o nás vědí příliš mnoho, přesto jejich Služby nadále využíváme, protože jsou tak zatraceně pohodlné. Hlasoví asistenti jsou však nezvykle polarizující. Lidé, kteří je považují za zlověstné a invazivní (včetně mě), považují nadšence za samolibé, zatímco ti, kteří je považují za užitečné a neškodné, považují skeptiky za paranoidní technofoby. Existuje jedna otázka, která se obává větších problémů ohledně našeho vztahu s technologickým průmyslem: měli byste nechat Alexu do svého domova?

v lednu senior viceprezident Amazonu pro zařízení David Kulhavý odhalil, že společnost prodala více než 100 milionů zařízení s podporou Alexa. V loňském roce v USA, kde jeden z pěti dospělých vlastní domácího hlasového asistenta, měla Alexa 70% podíl na americkém trhu ve srovnání s 24% Asistenta Google. Proto je nejlepší pozici, aby se stal, co Shoshana Zuboff, v ní bestseller, Věk Sledovací Kapitalismus, nazývá „Jedním Hlasem“: dominantní ekosystém, který by dal jeho provozovatele „schopnost předvídat a zpeněžit všechny okamžiky všech lidí po všechny dny“. Zuboff nazývá narození Alexy „prahovou událostí“.

Alexa však vyrostla v éře rostoucího skepticismu ohledně moci a morálky technologických společností „velké pětky“: Amazon, Apple, Facebook, Google/Alphabet a Microsoft. Události, jako jsou úniky Edwarda Snowdena a skandál Cambridge Analytica, pošpinily utopické sliby Silicon Valley. Generální ředitelé méně pravděpodobně trivializují obavy o soukromí. Tech novináři jsou spíše kritici než roztleskávačky. Politici jsou ochotnější k odpovědnosti firem.

Tento rok byl obzvláště složité. Za posledních šest měsíců, Bloomberg, the Guardian, Vice News a Belgický zpravodajský kanál VRT se postupně ukázalo, že všechny velké pětky byly pomocí lidské dodavatelů analyzovat malé procento hlas-asistent nahrávky. I když nahrávky jsou anonymní, často obsahují dostatek informací k identifikaci nebo rozpaků uživatele – zejména v případě, co se zaslechnout, je důvěrné lékařské informace nebo neúmyslné sex tape. Odhalení byla poslední kapkou pro mnoho skeptiků Alexa. „Žijeme v techno-dystopii naší vlastní tvorby. Pokud máte doma ještě Alexu nebo jiného hlasového asistenta, byli jste varováni, “ napsal spisovatel Gizmodo Matt Novak.

poté, co pracoval v Amazonu a další společnosti big-five, si Josephson myslí, že tento odpor vůči těmto společnostem je oprávněný. „Podle mého názoru mají nulový zájem na tom, jaký bude dopad těchto produktů. Zacházet s nimi jako s těmi správnými lidmi, kteří ovládají tuto moc, je absurdní situace, kterou bychom v žádném jiném odvětví nedovolili. Upřímně řečeno, nejsou bezpečnými strážci údajů, které shromažďují každý den, aniž bychom o tom věděli.“

ovládání Hlasem první zachytil představivost veřejnosti v 60. letech, přes HAL 9000, vnímající počítač v 2001: Vesmírná Odysea, hvězdné Lodi Enterprise je nekonečně užitečné počítač ve Star Treku. Ten byl hlavním referenčním bodem pro týmy, které vyvinuly Amazon Echo a Google Assistant. „Jasné světlo, zářící světlo, které je ještě mnoho let, mnoho desetiletí pryč, je znovu na počítač Star Trek,“ Kulhat řekl na konferenci publikum v roce 2017.

v reálném světě se rozpoznávání hlasu nestalo samozřejmostí, dokud Apple v roce 2011 neuvedl svého hlasového asistenta založeného na telefonu Siri. Alexa jde mnohem dále kolonizací domova uživatele. Před třemi desetiletími předvídavý počítačový vědec Mark Weiser nazval tento druh ekosystému bez tření „všudypřítomným výpočtem“. V roce 2015, společnosti Google Eric Schmidt předvídal den, kdy bude internet „součástí vaší přítomnosti po celou dobu“, což v reálném životě, chování, jak mapovat jako to, co děláte na vašem notebooku nebo telefonu. Nikdy nebudete offline.

editor Gizmodo Adam Clark Estes byl zpočátku nadšený první velkou hardwarovou inovací od iPadu Apple o čtyři roky dříve. Čím více se o technologii dozvěděl, tím méně se mu to líbilo. Jeho vlastní ozvěna by se probudila bez námahy. Nahrávky se začaly objevovat jako důkazy v soudních případech. FBI odmítla potvrdit nebo vyvrátit, že Alexu používá pro účely sledování. „Bylo mi stále jasnější, že hlídací psi soukromí měli pravdu,“ říká. „Na základně je to odposlouchávací zařízení.“

hlasoví asistenti ztělesňují napětí mezi efektivitou a soukromím. Technologie je stále hluboce nedokonalá; ve více než jednom z 10 přepisů analyzovaných jedním ze zdrojů Bloombergu se Alexa náhodou probudila. Přesně tlumočení hlasové příkazy tím, že zohledňují různé jazyky, akcenty, tóny, kontexty a stupňů okolní nepořádek vyžaduje daleko větší výpočetní výkon než jedno zařízení může obsahovat. Proto je většina práce prováděna v cloudu, což je způsob, jakým jsou lidské monitory schopny shromažďovat a analyzovat hlasové nahrávky. „Jste budování infrastruktury, která může být později kooptován nežádoucím způsobem tím, že velké nadnárodní společnosti a se aparát státního dozoru, a ohrožena zlomyslné hackery,“ říká Dr. Michael Veale, lektor digitálních práv a nařízení na UCL Fakulta Zákony na University College v Londýně.

ne všichni hlasoví asistenti jsou si rovni. Apple, jehož zisky nespoléhají primárně na sběr dat, používá více výpočtů a šifrování v zařízení na obou koncích. „Apple je nejlepší v soukromí,“ říká Estes. „Zároveň si myslím, že všichni souhlasí s tím, že Siri saje.“Amazon Echo a Google Assistant jsou mnohem více spolehlivé, protože tyto obchodní modely společností záviset na tom, vědět mnohem víc o vás, aby bylo možné reklamy. Rádi rámují sběr dat jako prostředek ke zlepšení služeb a zároveň snižují obrovské komerční výhody.

Google a Amazon mohl, samozřejmě, vybrat na zlepšení technologie tím, že platí lidi, aby vyzkoušet – druh práce, Josephson provedena v roce 2012 – místo léčení své zákazníky jako bezplatnou výzkumu a vývoje databáze. Nebo by mohli inzerovat skutečnost, že lidé mohou studovat nahrávky. „Mělo by to být na krabici,“ říká Dr. Jeremy Gillula, projektový ředitel Nadace Electronic Frontier Foundation, skupiny, která bojuje proti zneužití technologie. Velkorysý výklad tech společností motivy je nedbající utopismu, ale Gillula tvrdí, že pokud by byly skutečně naivní, pokud jde o důsledky jejich technologie, pak by to jít tak daleko, aby je skrývat. „Pochybuji, že si mysleli, že by se nikdo nestaral. Myslím, že se to snažili udržet v klidu, protože pokud by uživatelé věděli, co se děje, mohli by přestat kupovat zařízení. Bylo to promyšlené obchodní rozhodnutí.“

v reakci na to mluvčí Amazonu říká: „důvěra zákazníků je v centru všeho, co děláme, a soukromí zákazníků bereme velmi vážně. Neustále přezkoumáváme naše postupy a postupy, abychom zajistili, že zákazníkům poskytujeme ty nejlepší zkušenosti a možnosti ochrany osobních údajů. Zákazníkům poskytujeme několik ovládacích prvků ochrany osobních údajů, včetně možnosti kontrolovat a mazat jejich hlasové nahrávky. Abychom pomohli vylepšit Alexu, ručně zkontrolujeme extrémně malý vzorek žádostí Alexa, abychom potvrdili, že Alexa rozuměla a odpověděla správně. Zákazníci se mohou odhlásit od zahrnutí svých hlasových nahrávek do tohoto procesu kontroly.“

přesto bylo znovu a znovu prokázáno, že technologické společnosti ve svých reklamních a chytře formulovaných zásadách ochrany osobních údajů běžně zakrývají rozsah a povahu sběru dat. „Google a Amazon nám ukázaly, že mají sklon brát co nejvíce, dokud je někdo nechytí rukou v nádobě na sušenky,“ říká Estes. „Nerad bych byl dramatický, ale nemyslím si, že se někdy budeme cítit v bezpečí před jejich postupy sběru dat. Vládní regulace je jediná věc, která zastaví další škody.“

vláda USA se zdráhala jednat. V červenci 2015, Electronic Privacy Information Center (Epic), zavedené neziskové organizace, která se zabývá „demokratických hodnot v informačním věku“, volal po vyšetřování „vždy na“ zařízení, včetně hlasové asistenty. Odpověď zatím nedostali. „Tržní řešení v této oblasti nefungují, protože společnostem bylo umožněno zakrýt vady svých vlastních produktů,“ říká Marc Rotenberg, výkonný ředitel Epic. A dodává: „Pokud bychom vy nebo já umístili zařízení do domu někoho jiného se schopností zachytit jejich soukromou komunikaci, porušili bychom federální zákon o Odposleších.“

V červenci, Demokratického kongresmana, Seth Moulton, zavedl Automatické Poslech Využívání Akt, který by postihovat společnosti, jejichž hlasové asistenty a inteligentní zvonek (jako je Amazon Kroužek), záznam rozhovorů bez povolení, ale Gillula považuje za „velmi slabé právní předpisy“. V Evropě, která má trpkou zkušenost s masovým sledováním za totalitních režimů, mají regulátoři ostřejší zuby. V poslední době, Johannes Caspar, Hamburg je impozantní komisaře pro ochranu údajů, nucené Google pozastavit přepis hlasových nahrávek v celé EU, zatímco Apple a Facebook současně zastavena transkripce všude ve světě. (Amazon pouze umožnil uživatelům odhlásit se z lidského sledování.) Úřad britského komisaře pro informace vyšetřuje, zda lidský dohled neporušuje Obecné nařízení o ochraně údajů. „V této oblasti již máme významnou regulaci, ale klíčové je vymáhání,“ říká Veale. „Stejně jako všechny evropské orgány pro ochranu údajů je Úřad komisaře pro informace podfinancovaný a přetížený a potřebuje značné investice a podporu na ochranu základních práv občanů.“

bez účinné regulace neexistuje žádná obrana proti invazivnějšímu vykořisťování hlasových asistentů. Podle definice vždy zapnuté, i když nejsou vzhůru, zařízení neustále poslouchají, i když ne vždy vysílají. Gillula říká, že neexistují žádné technické překážky pro povolení spící zařízení, například sledování uživatelů sledování televize tím, že reaguje na vysokofrekvenční signály vložené v pořady a reklamy, nebo určit, kdo je v domě v daném okamžiku. „To se v podstatě stává neustálým sledováním,“ říká Gillula. „Doufám, že společnosti by nikdy nešli touto dystopickou cestou, ale viděl jsem je říkat:“ Ach, je to funkce: vědět, kdy jsou vaše děti doma! Lákavou vlastností je, jak většina z těchto věcí začíná.“

tam, kde skončí, se stali nejen hlídači soukromí, ale i spisovatelé. Dystopické důsledky hlasových asistentů se objevují ve sci-fi, včetně filmu Spike Jonze Her, Černé zrcadlo a roky a roky. Za nimi všechny stavy „nikdy-spací ucho“ George Orwella obrazovky v Devatenáct Osmdesát-Čtyři: „člověk musel žít – a žil, ze zvyku, který se stal pudovým – v předpokladu, že každý zvuk byl zaslechl.“Echo Show, inteligentní asistent s obrazovkou a kamerou, byl široce srovnáván s telescreen, když byl představen před dvěma lety. „Alexo, ukaž mi dystopii,“ zavtipkoval Svěrák. V Joanna Kavenna je satirický román Zed, spisovatel zkoumá „divný dysfunkční-sluha aspekt“ real-life hlasových asistentů (všichni mají ženské hlasy jako jejich výchozí nastavení) a sociopolitických důsledcích Jeden Hlas: v Zed, tech monopol, Brouk, je všudypřítomný a nevypočitatelné. „Demokratická myšlenka je, že máme mít transparentní korporace a vlády, zatímco lidé mají soukromí,“ říká. „Máme inverzní. Lidé jsou nespokojení, protože se o tom nediskutuje na vyspělé, demokratické úrovni.“

Kavenna se obává, že, daleko od právní předpisy na ochranu soukromí uživatelů, státy USA bude usilovat o přístup k hlasové-asistent nahrávky ve jménu prevence kriminality a národní bezpečnosti. Minulý rok, soudce v New Hampshire dělal titulky tím, že nařídil Amazonu, aby vyšetřovatelům předložil Echo nahrávky dvojité vraždy. „Staví je to do velmi komplikované situace mezi jejich zákazníky a vládou,“ říká Kavenna. „Jsme velmi závislí na politickém režimu.“

Rotenberg souhlasí: „Pokud jste autoritářská Země, proč ne jen spustit audio stream přímo do vládní kontrolní agentury a tvrdit, že je to snížit kriminalitu v domácnosti? Je děsivé uvažovat, ale myslitelné.“

hlasové asistenty dnes nejsou nejnaléhavější hrozbou pro soukromí pouze proto, že jsou volitelné. Skener rozpoznávání obličeje vás může špehovat ve veřejném prostoru, ale Alexa, jako upír, musí být pozvána do vašeho domova. Jedinou skutečně účinnou silou, kterou můžete nad touto technologií ovládat, je nepoužívat ji. Ale informovaná volba je ohrožena tím, klamavé uvádění na trh a podkopávala úsilí Amazon vložit Alexa do bezpočtu výrobků, včetně automobilů, televizory, sluchátka, mikrovlnné trouby, termostaty a hodiny, při podpisu se zabývá bytovou výstavbu společnosti a hotelové řetězce, všechny s okem, aby se stal Jedním Hlasem. „Hlasové ovládání je spotřebitelům tlačeno do krku, ať se jim to líbí nebo ne,“ říká Estes.

ještě tam nejsme. Technologické společnosti spoléhají na mýtus technologické nevyhnutelnosti, aby uzavřely obchodní rozhodnutí, která učinily, a možnost dalších modelů. Napadnout je Znamená bojovat s budoucností. Nesmysl, říká Kavenna. „Je to nevyhnutelný důsledek technologie? Ne, je to ideologická aplikace techniky. Pokud stavíte budovu, nemusíte stavět panoptikum. Nemusí to být to, co máme teď. Často budou tvrdit, že pokud jste proti tomu, jste neo-luddit. Tento mýtus umožnil mnoha lidem neuvěřitelně zbohatnout.“

Nikdo z lidí, které jsem mluvil s majitelem domů hlasového asistenta, ani by jim někdo radí, aby si jeden, ale všichni se shodují, že by bylo možné vyvinout zařízení, které přináší nejpopulárnější služby při respektování soukromí uživatele. Pokud celý průmysl následovat Apple vedení při vytváření lidské monitorování opt-in, spíše než opt-out, to by bylo silný start. Poté, jak se zvyšuje výpočetní výkon, lze uvnitř zařízení provádět více úkolů. Ale, samozřejmě, to by znamenalo propadnutí těchto šťavnatých, zpeněžitelná data. „Spousta věcí, které opravdu chcete dělat, by neměla vyžadovat internet, a jakmile přerušíte přístup do cloudu, obavy o soukromí zmizí,“ říká Estes. „Vždy existuje potenciál, aby se věci zlepšily – a vždy bude boj, abychom se dostali do tohoto bodu.““

Jeremy Gillula je tak přesvědčen, že bezpečný, plně uživatelsky řízený hlasový asistent je možný, že navrhuje svůj vlastní pomocí softwaru s otevřeným zdrojovým kódem.

„už se tam dostávám,“ říká vesele. „Ještě nejsem 100% spokojen, ale rozsvítí se a zhasne světla.”

{{#ticker}}

{{topLeft}}

{{bottomLeft}}

{{topRight}}

{{bottomRight}}

{{#goalExceededMarkerPercentage}}

{{/goalExceededMarkerPercentage}}

{{/ticker}}

{{heading}}

{{#paragraphs}}

{{.}}

{{/paragraphs}}{{highlightedText}}

{{#cta}}{{text}}{{/cta}}

Remind me in May

Budeme v kontaktu, aby vám připomněl, přispět. Podívejte se na zprávu ve vaší doručené poště v květnu 2021. Máte-li jakékoli dotazy týkající se přispívání, kontaktujte nás.

• Sdílet na Facebook
• Sdílejte na Twitter
• Sdílet přes E-mail
• Sdílejte na LinkedIn
• Sdílejte na Pinterest
• Sdílet na WhatsApp
• Podíl na Messenger