‚Alexa, dringen Sie in meine Privatsphäre ein?‘ – die dunkle Seite unserer Sprachassistenten
Eines Tages im Jahr 2017 wurde Alexa Schurke. Als Martin Josephson, der in London lebt, von der Arbeit nach Hause kam, hörte er, wie sein Amazon Echo Dot-Sprachassistent fragmentarische Befehle ausspuckte, die scheinbar auf seinen früheren Interaktionen mit dem Gerät beruhten. Es schien Anfragen zu regurgitieren, Zugtickets für Reisen zu buchen, die er bereits unternommen hatte, und Fernsehsendungen aufzunehmen, die er bereits gesehen hatte. Josephson hatte nicht das Weckwort „Alexa“ gesagt, um es zu aktivieren, und nichts, was er sagte, würde es aufhalten. Es war, sagt er, „Kafkaesk“.
Das war besonders interessant, weil Josephson (nicht sein richtiger Name) ein ehemaliger Amazon-Mitarbeiter war. Drei Jahre zuvor hatte er sich freiwillig gemeldet, um in einem Raum zu sitzen und eine Reihe scheinbar bedeutungsloser Sätze zu einem unbekannten Zweck in ein Mikrofon zu rezitieren. Erst als Amazon 2014 das Echo in den USA herausbrachte, wurde ihm klar, woran er gearbeitet hatte. Er kaufte einen Dot, das billigere, kleinere Modell des Echos, nachdem es 2016 auf den Markt kam, und fand es nützlich genug, bis es drunter und drüber ging. Als der Ausbruch des Punktes nachließ, zog er den Stecker und legte ihn in den Mülleimer. „Ich fühlte mich ein bisschen dumm“, sagt er. „Nachdem ich bei Amazon gearbeitet und gesehen hatte, wie sie die Daten von Menschen verwendeten, wusste ich, dass ich ihnen nicht vertrauen konnte.“
Der Dot sollte sich nicht wie ein dadaistischer Drill Sergeant verhalten. Andererseits tun Sprachassistenten oft Dinge, die sie nicht tun sollen. Letztes Jahr wurde einem Amazon-Kunden in Deutschland fälschlicherweise etwa 1.700 Audiodateien von einem anderen Echo gesendet, die genügend Informationen lieferten, um den unglücklichen Benutzer und seine Freundin zu benennen und zu lokalisieren. (Amazon führte dieses „unglückliche Missgeschick“ auf menschliches Versagen zurück.In San Francisco behauptete Shawn Kinnear, sein Echo habe sich selbst aktiviert und sagte fröhlich: „Jedes Mal, wenn ich meine Augen schließe, sehe ich nur Menschen sterben.“ In Portland, Oregon, entdeckte eine Frau, dass ihr Echo es sich zur Aufgabe gemacht hatte, Aufzeichnungen privater Gespräche an einen Mitarbeiter ihres Mannes zu senden. In einer Erklärung sagte Amazon, dass das Echo das Weckwort falsch gehört haben muss, eine Anfrage zum Senden einer Nachricht falsch gehört, einen Namen in seiner Kontaktliste falsch gehört und dann eine Bestätigung zum Senden der Nachricht falsch gehört hat, alles während eines Gesprächs über Holzböden. Nicht toll, Alexa.Die Technologie führt häufig zu Ambivalenzen: Wir wissen, dass Facebook und Google zu viel über uns wissen, aber wir nutzen ihre Dienste weiterhin, weil sie so verdammt praktisch sind. Sprachassistenten polarisieren jedoch ungewöhnlich. Menschen, die sie für unheimlich und invasiv halten (mich eingeschlossen), betrachten Enthusiasten als selbstgefällig, während diejenigen, die sie nützlich und gutartig finden, die Skeptiker als paranoide Technophobe betrachten. Es gibt eine Frage, die mit größeren Problemen in Bezug auf unsere Beziehung zur Technologiebranche behaftet ist: Sollten Sie Alexa in Ihr Zuhause lassen?Im Januar gab David Limp, Senior Vice President of Devices bei Amazon, bekannt, dass das Unternehmen mehr als 100 Millionen Alexa-fähige Geräte verkauft habe. Im vergangenen Jahr hatte Alexa in den USA, wo jeder fünfte Erwachsene einen Sprachassistenten für zu Hause besitzt, einen Marktanteil von 70% in den USA, verglichen mit dem Google Assistant von 24%. Es ist daher am besten positioniert, um das zu werden, was Shoshana Zuboff in ihrem Bestseller The Age of Surveillance Capitalism die „eine Stimme“ nennt: das dominierende Ökosystem, das seinem Betreiber „die Fähigkeit geben würde, alle Momente aller Menschen an allen Tagen zu antizipieren und zu monetarisieren“. Zuboff nennt die Geburt von Alexa „ein Schwellenereignis“.Alexa ist jedoch in einer Zeit wachsender Skepsis gegenüber der Macht und Moral der „Big Five“ -Tech-Unternehmen aufgewachsen: Amazon, Apple, Facebook, Google / Alphabet und Microsoft. Ereignisse wie die Edward Snowden-Lecks und der Cambridge Analytica-Skandal haben die utopischen Versprechen des Silicon Valley getrübt. Es ist weniger wahrscheinlich, dass CEOs Datenschutzbedenken bagatellisieren. Tech-Journalisten sind eher Kritiker als Cheerleader. Politiker sind eher bereit, Unternehmen zur Rechenschaft zu ziehen.
Dieses Jahr war besonders schwierig. In den letzten sechs Monaten haben Bloomberg, The Guardian, Vice News und der belgische Nachrichtensender VRT nach und nach enthüllt, dass alle Big Five menschliche Auftragnehmer eingesetzt haben, um einen kleinen Prozentsatz der Aufnahmen von Sprachassistenten zu analysieren. Obwohl die Aufzeichnungen anonymisiert sind, enthalten sie oft genug Informationen, um den Benutzer zu identifizieren oder in Verlegenheit zu bringen – insbesondere wenn es sich um vertrauliche medizinische Informationen oder ein unbeabsichtigtes Sexvideo handelt. Die Enthüllungen waren der letzte Strohhalm für viele Alexa-Skeptiker. „Wir leben in einer Techno-Dystopie, die wir selbst erschaffen haben. Wenn Sie noch eine Alexa oder einen anderen Sprachassistenten in Ihrem Zuhause haben, wurden Sie gewarnt „, schrieb der Gizmodo-Autor Matt Novak.Josephson, der bei Amazon und einem anderen Big-Five-Unternehmen gearbeitet hat, hält diesen Widerstand gegen diese Unternehmen für gerechtfertigt. „Sie haben meiner Meinung nach kein Interesse daran, sich zu fragen, welche Auswirkungen diese Produkte haben werden. Sie als die richtigen Leute zu behandeln, um diese Macht auszuüben, ist eine lächerliche Situation, die wir in keiner anderen Branche zulassen würden. Sie sind ehrlich gesagt keine sicheren Hüter der Daten, die sie jeden Tag sammeln, ohne dass wir es wissen.“Die Sprachsteuerung eroberte die öffentliche Vorstellungskraft in den 60er Jahren über HAL 9000, den Sentient Computer in 2001: A Space Odyssey und den endlos hilfreichen Computer des Raumschiffs Enterprise in Star Trek. Letzteres war ein wichtiger Bezugspunkt für die Teams, die Amazons Echo und den Google Assistant entwickelten. „Das helle Licht, das leuchtende Licht, das noch viele Jahre, viele Jahrzehnte entfernt ist, soll den Star Trek-Computer nachbilden“, sagte Limp 2017 vor einem Konferenzpublikum.In der realen Welt wurde die Spracherkennung nicht alltäglich, bis Apple 2011 seinen telefonbasierten Sprachassistenten Siri auf den Markt brachte. Alexa geht viel weiter, indem sie das Haus des Benutzers kolonisiert. Vor drei Jahrzehnten nannte der vorausschauende Informatiker Mark Weiser diese Art von reibungslosem Ökosystem „Ubiquitous Computing“. Im Jahr 2015 sah Eric Schmidt von Google einen Tag voraus, an dem das Internet „die ganze Zeit Teil Ihrer Präsenz“ sein wird und Ihr reales Verhalten so zuordenbar macht wie das, was Sie auf Ihrem Laptop oder Telefon tun. Sie werden nie offline sein.Gizmodo-Editor Adam Clark Estes war zunächst begeistert von der ersten großen Hardware-Innovation seit Apples iPad vier Jahre zuvor. Je mehr er über die Technologie lernte, desto weniger gefiel es ihm. Sein eigenes Echo würde unaufgefordert aufwachen. Aufnahmen tauchten als Beweismittel in Gerichtsverfahren auf. Das FBI weigerte sich zu bestätigen oder zu leugnen, dass es Alexa für Überwachungszwecke verwendet. „Mir wurde immer klarer, dass die Datenschutzwächter Recht hatten“, sagt er. „Es ist im Grunde ein Abhörgerät.“
Sprachassistenten verkörpern das Spannungsfeld zwischen Effizienz und Privatsphäre. Die Technologie ist immer noch zutiefst unvollkommen; In mehr als einem von 10 Transkripten, die von einer Bloomberg-Quelle analysiert wurden, wachte Alexa versehentlich auf. Die genaue Interpretation von Sprachbefehlen unter Berücksichtigung verschiedener Sprachen, Akzente, Töne, Kontexte und Grad der Umgebungsunordnung erfordert weitaus mehr Rechenleistung, als ein einzelnes Gerät enthalten kann. Daher wird der größte Teil der Arbeit in der Cloud ausgeführt, wodurch menschliche Monitore Sprachaufnahmen sammeln und analysieren können. „Sie bauen eine Infrastruktur auf, die später von großen multinationalen Unternehmen und staatlichen Überwachungsapparaten auf unerwünschte Weise kooptiert und von böswilligen Hackern kompromittiert werden kann“, sagt Dr. Michael Veale, Dozent für digitale Rechte und Regulierung an der UCL Faculty of Laws am University College London.
Nicht alle Sprachassistenten sind gleich. Apple, dessen Gewinne nicht in erster Linie von der Datenerfassung abhängen, verwendet an beiden Enden mehr geräteinterne Berechnungen und Verschlüsselung. „Apple ist der Beste in Sachen Datenschutz“, sagt Estes. „Gleichzeitig denke ich, dass sich alle einig sind, dass Siri scheiße ist.“ Amazon Echo und Google Assistant sind viel zuverlässiger, da die Geschäftsmodelle dieser Unternehmen davon abhängen, dass Sie so viel mehr über Sie wissen, um Werbung auf Mikroziele auszurichten. Sie stellen die Datenerhebung gerne als Mittel zur Verbesserung der Dienste dar und spielen gleichzeitig die immensen kommerziellen Vorteile herunter.Google und Amazon könnten sich natürlich dafür entscheiden, die Technologie zu verbessern, indem sie Leute dafür bezahlen, sie zu testen – die Art von Arbeit, die Josephson 2012 geleistet hat -, anstatt ihre Kunden als kostenlose Forschungs- und Entwicklungsdatenbank zu behandeln. Oder sie könnten damit werben, dass Menschen die Aufnahmen studieren. „Es sollte auf der Schachtel sein“, sagt Dr. Jeremy Gillula, Projektdirektor der Electronic Frontier Foundation, einer Gruppe, die sich gegen den Missbrauch von Technologie einsetzt. Die großzügige Interpretation der Motive von Technologieunternehmen ist ein achtloser Utopismus, aber Gillula argumentiert, dass sie, wenn sie wirklich naiv über die Implikationen ihrer Technologie wären, nicht so weit gehen würden, sie zu verbergen. „Ich bezweifle, dass sie dachten, es würde niemanden interessieren. Ich denke, sie haben versucht, es ruhig zu halten, denn wenn die Benutzer wüssten, was los war, würden sie möglicherweise aufhören, die Geräte zu kaufen. Es war eine kalkulierte Geschäftsentscheidung.“
Als Antwort darauf sagt eine Sprecherin von Amazon: „Das Vertrauen der Kunden steht bei allem, was wir tun, im Mittelpunkt und wir nehmen den Datenschutz der Kunden sehr ernst. Wir überprüfen kontinuierlich unsere Praktiken und Verfahren, um sicherzustellen, dass wir unseren Kunden die besten Erfahrungen und Datenschutzoptionen bieten. Wir bieten Kunden verschiedene Datenschutzkontrollen, einschließlich der Möglichkeit, ihre Sprachaufnahmen zu überprüfen und zu löschen. Um Alexa zu verbessern, überprüfen wir manuell eine extrem kleine Stichprobe von Alexa-Anfragen, um zu bestätigen, dass Alexa richtig verstanden und reagiert hat. Kunden können die Aufnahme ihrer Sprachaufnahmen in diesen Überprüfungsprozess ablehnen.“Dennoch wurde immer wieder gezeigt, dass Tech-Unternehmen in ihrer Werbung und ihren klug formulierten Datenschutzrichtlinien routinemäßig das Ausmaß und die Art ihrer Datensammlung verschleiern. „Google und Amazon haben uns gezeigt, dass sie geneigt sind, so viel wie möglich zu nehmen, bis jemand sie mit der Hand in der Keksdose fängt“, sagt Estes. „Ich hasse es, dramatisch zu sein, aber ich glaube nicht, dass wir uns jemals vor ihren Datenerfassungspraktiken sicher fühlen werden. Staatliche Regulierung ist das einzige, was mehr Schaden stoppen wird.“
Die US-Regierung zögert zu handeln. Im Juli 2015 forderte das Electronic Privacy Information Center (Epic), eine seit langem etablierte gemeinnützige Organisation, die sich „demokratischen Werten im Informationszeitalter“ widmet, eine Untersuchung von „Always On“ -Geräten, einschließlich Sprachassistenten. Sie haben noch keine Antwort erhalten. „Marktbasierte Lösungen funktionieren in diesem Bereich nicht, weil Unternehmen die Mängel ihrer eigenen Produkte verbergen durften“, sagt Marc Rotenberg, Executive Director von Epic. Er fügt hinzu: „Wenn Sie oder ich ein Gerät in das Haus eines anderen stellen würden, das seine private Kommunikation erfassen kann, würden wir gegen das Bundesgesetz über das Abhören verstoßen.Im Juli führte ein demokratischer Kongressabgeordneter, Seth Moulton, den Automatic Listening Exploitation Act ein, der Unternehmen bestrafen würde, deren Sprachassistenten und intelligente Türklingeln (wie Amazons Ring) Gespräche ohne Erlaubnis aufzeichnen, aber Gillula hält es für „ziemlich schwache Gesetzgebung“. In Europa, das bittere Erfahrungen aus erster Hand mit der Massenüberwachung unter totalitären Regimen gemacht hat, haben die Regulierungsbehörden schärfere Zähne. Johannes Caspar, Hamburgs Datenschutzbeauftragter, hat Google kürzlich gezwungen, die Transkription von Sprachaufnahmen in der gesamten EU auszusetzen, während Apple und Facebook gleichzeitig die Transkription überall auf der Welt eingestellt haben. (Amazon erlaubte den Nutzern lediglich, die Überwachung durch Menschen zu deaktivieren. Das britische Information Commissioner’s Office untersucht, ob die menschliche Aufsicht gegen die Datenschutz-Grundverordnung verstößt. „Wir haben bereits eine bedeutende Regulierung in diesem Bereich, aber der Schlüssel ist die Durchsetzung“, sagt Veale. „Wie alle europäischen Datenschutzbehörden ist das Büro des Informationskommissars unterfinanziert und überfordert und benötigt erhebliche Investitionen und Unterstützung, um die Grundrechte der Bürger zu schützen.“
Ohne wirksame Regulierung gibt es keine Verteidigung gegen eine invasivere Ausbeutung von Sprachassistenten. Per Definition immer eingeschaltet, auch wenn sie nicht wach sind, hören die Geräte ständig zu, obwohl sie nicht immer senden. Gillula sagt, dass es keine technischen Hindernisse gibt, um ruhende Geräte zu ermöglichen, zum Beispiel das Fernsehen der Benutzer zu verfolgen, indem sie auf hohe Signale reagieren, die in Shows und Werbung eingebettet sind, oder zu identifizieren, wer sich zu einem bestimmten Zeitpunkt im Haus befindet. „Das wird im Wesentlichen zur ständigen Überwachung“, sagt Gillula. „Ich bin zuversichtlich, dass die Unternehmen niemals diesen dystopischen Weg gehen würden, aber ich konnte sehen, wie sie sagten:‘Oh, es ist ein Feature: Wissen Sie, wann Ihre Kinder zu Hause sind!‘ Ein ansprechendes Merkmal ist, wie die meisten dieser Dinge beginnen.“
Wo sie enden, hat nicht nur die Datenschutzwächter, sondern auch die Schriftsteller auf den Plan gerufen. Die dystopischen Implikationen von Sprachassistenten tauchen in der Science-Fiction auf, einschließlich des Spike Jonze-Films Her, Black Mirror und Years and Years. Hinter ihnen allen steht das „niemals schlafende Ohr“ von George Orwells Telescreen in Nineteen Eighty-Four: „Du musstest leben – hast gelebt, aus Gewohnheit, die zum Instinkt wurde – in der Annahme, dass jeder Ton, den du machst, gehört wurde.“ Die Echo Show, ein intelligenter Assistent mit Bildschirm und Kamera, wurde bei ihrer Einführung vor zwei Jahren weitgehend mit dem Telescreen verglichen. „Alexa, zeig mir die Dystopie“, witzelte Vice. In Joanna Kavennas satirischem Roman Zed untersucht die Autorin den „seltsamen dysfunktional-Diener-Aspekt“ von echten Sprachassistenten (die alle weibliche Stimmen als Standardeinstellung haben) und die gesellschaftspolitischen Konsequenzen der einen Stimme: In Zed ist das Tech-Monopol jedoch allgegenwärtig und nicht rechenschaftspflichtig. „Die demokratische Idee ist, dass wir transparente Unternehmen und Regierungen haben sollen, während die Menschen Privatsphäre haben“, sagt sie. „Wir haben das Inverse. Die Leute sind unruhig, weil es nicht auf einer reifen, demokratischen Ebene diskutiert wird.“
Kavenna befürchtet, dass die US-Bundesstaaten weit davon entfernt sind, Gesetze zum Schutz der Privatsphäre der Benutzer zu erlassen, um im Namen der Kriminalprävention und der nationalen Sicherheit auf Aufnahmen von Sprachassistenten zuzugreifen. Im vergangenen Jahr machte ein Richter in New Hampshire Schlagzeilen, indem er Amazon befahl, den Ermittlern Echo-Aufnahmen eines Doppelmordes vorzulegen. „Es bringt sie in eine sehr komplizierte Position zwischen ihren Kunden und der Regierung“, sagt Kavenna. „Wir sind sehr abhängig vom politischen Regime.“
Rotenberg stimmt zu: „Wenn Sie ein autoritäres Land sind, warum nicht einfach den Audiostream direkt an eine staatliche Überwachungsbehörde leiten und argumentieren, dass dies die Kriminalität zu Hause reduzieren soll? Es ist beängstigend zu betrachten, aber denkbar.“Sprachassistenten sind heute nicht nur deshalb die dringendste Bedrohung für die Privatsphäre, weil sie optional sind. Ein Gesichtserkennungsscanner kann Sie in einem öffentlichen Raum ausspionieren, aber Alexa muss wie ein Vampir zu Ihnen nach Hause eingeladen werden. Die einzige wirklich effektive Macht, die Sie über diese Technologie ausüben können, besteht darin, sie nicht zu verwenden. Eine fundierte Entscheidung zu treffen, wird jedoch durch irreführendes Marketing beeinträchtigt und durch Amazons Bemühungen untergraben, Alexa in unzählige Produkte wie Autos, Fernseher, Kopfhörer, Mikrowellen, Thermostate und Uhren einzubetten, während Verträge mit Wohnungsbauunternehmen und Hotelketten unterzeichnet werden, um die eine Stimme zu werden. „Die Sprachsteuerung wird den Verbrauchern in die Kehle gedrückt, ob sie es mögen oder nicht“, sagt Estes.
Wir sind noch nicht da. Tech-Unternehmen verlassen sich auf den Mythos der technologischen Unvermeidlichkeit, um die von ihnen getroffenen Geschäftsentscheidungen und die Möglichkeit anderer Modelle zu verdecken. Sie herauszufordern bedeutet, gegen die Zukunft zu kämpfen. Unsinn, sagt Kavenna. „Ist es eine unvermeidliche Folge von Tech? Nein, es ist eine ideologische Anwendung von Technologie. Wenn Sie ein Gebäude bauen, müssen Sie kein Panoptikum bauen. Es muss nicht das sein, was wir jetzt haben. Sie werden oft behaupten, dass, wenn Sie dagegen sind, Sie ein Neo-Luddite sind. Dieser Mythos hat es vielen Menschen ermöglicht, unglaublich reich zu werden.“
Keiner der Leute, mit denen ich gesprochen habe, besitzt einen Home-Sprachassistenten, noch würden sie jemandem raten, einen zu bekommen, aber sie alle sind sich einig, dass es möglich wäre, ein Gerät zu entwickeln, das die beliebtesten Dienste bietet und gleichzeitig die Privatsphäre des Benutzers respektiert. Wenn die gesamte Branche dem Beispiel von Apple folgen würde, wenn es darum geht, die Überwachung durch Menschen zu aktivieren und nicht zu deaktivieren, wäre dies ein guter Anfang. Mit zunehmender Rechenleistung können dann mehr Aufgaben im Gerät ausgeführt werden. Aber das würde natürlich bedeuten, diese saftigen, monetarisierbaren Daten zu verlieren. „Viele Dinge, die Sie wirklich tun möchten, sollten kein Internet erfordern, und sobald Sie den Zugriff auf die Cloud abgeschnitten haben, verschwinden die Datenschutzbedenken“, sagt Estes. „Es gibt immer das Potenzial, dass die Dinge besser werden – und es wird immer einen Kampf geben, um an diesen Punkt zu gelangen.“Jeremy Gillula ist so überzeugt, dass ein sicherer, vollständig benutzergesteuerter Sprachassistent möglich ist, dass er seinen eigenen mit Open-Source-Software entwirft.
„Ich komme schon“, sagt er fröhlich. „Ich bin noch nicht 100% zufrieden, aber es wird das Licht ein- und ausschalten.”
{{topLeft}}
{{bottomLeft}}
{{topRight}}
{{bottomRight}}
{{/goalExceededMarkerPercentage}}
{{/ticker}}
{{heading}}
{{#paragraphs}}
{{.}}
{{/paragraphs}}{{highlightedText}}
- Auf Facebook teilen
- Auf Twitter teilen
- Per E-Mail teilen
- Auf LinkedIn teilen
- Auf Pinterest teilen
- Auf WhatsApp teilen
- Auf Messenger teilen
Leave a Reply