‘ Alexa, ¿estás invadiendo mi privacidad?’- el lado oscuro de nuestros asistentes de voz
Un día de 2017, Alexa se volvió rebelde. Cuando Martin Josephson, que vive en Londres, llegó a casa del trabajo, escuchó a su asistente de voz Amazon Echo Dot escupir comandos fragmentarios, aparentemente basados en sus interacciones anteriores con el dispositivo. Al parecer, se trataba de peticiones reiteradas de reservar billetes de tren para viajes que ya había realizado y de grabar programas de televisión que ya había visto. Josephson no había dicho la palabra del velatorio – «Alexa» – para activarlo y nada de lo que dijo lo detendría. Fue, dice, «Kafkiano».
Esto fue especialmente interesante porque Josephson (no es su nombre real) era un antiguo empleado de Amazon. Tres años antes, se había ofrecido voluntario para sentarse en una habitación recitando una serie de frases aparentemente sin sentido en un micrófono para un propósito no revelado. Solo cuando Amazon lanzó The Echo en los Estados Unidos en 2014 se dio cuenta de lo que había estado trabajando. Compró un Dot, el modelo más barato y pequeño de Echo, después de su lanzamiento en 2016, y lo encontró lo suficientemente útil hasta el día en que se volvió loco. Cuando el estallido del Punto se calmó, lo desenchufó y lo depositó en la papelera. «Me sentí un poco tonto», dice. «Al haber trabajado en Amazon y haber visto cómo usaban los datos de las personas, sabía que no podía confiar en ellos.»
Se suponía que el Punto no debía comportarse como un sargento de instrucción dadaísta. Por otra parte, los asistentes de voz a menudo hacen cosas que se supone que no deben hacer. El año pasado, un cliente de Amazon en Alemania recibió por error unos 1.700 archivos de audio del Eco de otra persona, proporcionando suficiente información para nombrar y localizar al desafortunado usuario y a su novia. (Amazon atribuyó este «desafortunado percance» a un error humano.)
En San Francisco, Shawn Kinnear afirmó que su Eco se activó y dijo alegremente: «Cada vez que cierro los ojos, todo lo que veo es gente muriendo.»En Portland, Oregón, una mujer descubrió que su Eco se había encargado de enviar grabaciones de conversaciones privadas a uno de los empleados de su marido. En un comunicado, Amazon dijo que el Eco debe haber escuchado mal la palabra del velatorio, escuchó mal una solicitud para enviar un mensaje, escuchó mal un nombre en su lista de contactos y luego escuchó mal una confirmación para enviar el mensaje, todo durante una conversación sobre pisos de madera. No muy bien, Alexa.
La tecnología inspira ambivalencia con frecuencia: sabemos que Facebook y Google saben demasiado de nosotros, pero seguimos utilizando sus servicios porque son muy convenientes. Los asistentes de voz, sin embargo, son inusualmente polarizantes. Las personas que los consideran siniestros e invasivos (incluido yo) consideran a los entusiastas como complacientes, mientras que aquellos que los encuentran útiles y benignos ven a los escépticos como tecnófobos paranoicos. Hay una pregunta cargada de problemas más grandes sobre nuestra relación con la industria de la tecnología: ¿debe dejar que Alexa entre a su hogar?
En enero, el vicepresidente sénior de dispositivos de Amazon, David Limp, reveló que la compañía había vendido más de 100 millones de dispositivos habilitados para Alexa. El año pasado, en Estados Unidos, donde uno de cada cinco adultos tiene un asistente de voz en casa, Alexa tenía una cuota de mercado del 70% en Estados Unidos, en comparación con el 24% del Asistente de Google. Por lo tanto, está en mejor posición para convertirse en lo que Shoshana Zuboff, en su bestseller, La Era del Capitalismo de Vigilancia, llama la «Voz Única»: el ecosistema dominante que le daría a su operador «la capacidad de anticipar y monetizar todos los momentos de todas las personas durante todos los días». Zuboff llama al nacimiento de Alexa «un evento de umbral».
Alexa, sin embargo, ha crecido en una era de creciente escepticismo sobre el poder y la moralidad de las «cinco grandes» compañías tecnológicas: Amazon, Apple, Facebook, Google / Alphabet y Microsoft. Eventos como las filtraciones de Edward Snowden y el escándalo de Cambridge Analytica han empañado las promesas utópicas de Silicon Valley. Es menos probable que los directores ejecutivos trivialicen las preocupaciones de privacidad. Los periodistas de tecnología son más propensos a ser críticos que porristas. Los políticos están más dispuestos a pedir cuentas a las empresas.
Este año ha sido particularmente complicado. En los últimos seis meses, Bloomberg, The Guardian, Vice News y el canal de noticias belga VRT han revelado gradualmente que los cinco grandes han estado utilizando contratistas humanos para analizar un pequeño porcentaje de grabaciones de asistentes de voz. Aunque las grabaciones son anónimas, a menudo contienen suficiente información para identificar o avergonzar al usuario, especialmente si lo que escuchan es información médica confidencial o un video sexual inadvertido. Las revelaciones fueron la gota que colmó el vaso para muchos escépticos de Alexa. «Vivimos en un tecno-distopía de nuestras propias decisiones. Si todavía tienes un Alexa o cualquier otro asistente de voz en tu casa, te avisaron», escribió el escritor de Gizmodo Matt Novak.
Habiendo trabajado en Amazon y en otra empresa de las cinco grandes, Josephson cree que esta resistencia a estas empresas está justificada. «No tienen ningún interés, en mi opinión, en preguntarse cuál será el impacto de esos productos. Tratarlos como las personas adecuadas para ejercer ese poder es una situación absurda que no permitiríamos en ninguna otra industria. Francamente, no son guardianes seguros de los datos que recopilan todos los días sin que lo sepamos.»
El control por voz se apoderó por primera vez de la imaginación del público en los años 60, a través de HAL 9000, the sentient computer en 2001: A Space Odyssey, y la computadora infinitamente útil de la Nave Estelar Enterprise en Star Trek. Este último fue un importante punto de referencia para los equipos que desarrollaron Echo de Amazon y el Asistente de Google. «La luz brillante, la luz brillante, que aún está a muchos años, a muchas décadas de distancia, es recrear la computadora de Star Trek», dijo Limp a una audiencia de la conferencia en 2017.
En el mundo real, el reconocimiento de voz no se convirtió en algo común hasta que Apple lanzó su asistente de voz para teléfono, Siri, en 2011. Alexa va mucho más allá al colonizar el hogar del usuario. Hace tres décadas, el científico informático profético Mark Weiser llamó a este tipo de ecosistema sin fricción «computación ubicua». En 2015, Eric Schmidt de Google previó un día en el que Internet será «parte de tu presencia todo el tiempo», haciendo que tu comportamiento de la vida real sea tan mapeable como lo que haces en tu computadora portátil o teléfono. Nunca estarás desconectado.
El editor de Gizmodo, Adam Clark Estes, se entusiasmó inicialmente con la primera gran innovación de hardware desde el iPad de Apple cuatro años antes. Sin embargo, cuanto más aprendía sobre la tecnología, menos le gustaba. Su propio Eco despertaba espontáneamente. Las grabaciones comenzaron a aparecer como evidencia en los casos judiciales. El FBI se negó a confirmar o negar que estaba usando a Alexa para fines de vigilancia. «Se hizo cada vez más claro para mí que los guardianes de la privacidad tenían razón», dice. «Es, en la base, un dispositivo de escucha telefónica.»
Los asistentes de voz personifican la tensión entre eficiencia y privacidad. La tecnología sigue siendo profundamente imperfecta; en más de una de cada 10 transcripciones analizadas por una de las fuentes de Bloomberg, Alexa se despertó accidentalmente. Interpretar con precisión los comandos de voz teniendo en cuenta los diferentes idiomas, acentos, tonos, contextos y grados de desorden ambiental requiere mucha más potencia computacional de la que puede contener un solo dispositivo. Por lo tanto, la mayor parte del trabajo se realiza en la nube, que es la forma en que los monitores humanos pueden recopilar y analizar grabaciones de voz. «Se está construyendo una infraestructura que más tarde puede ser cooptada de formas indeseables por grandes multinacionales y aparatos de vigilancia estatal, y comprometida por hackers maliciosos», dice el Dr. Michael Veale, profesor de derechos digitales y regulación en la Facultad de Leyes de UCL en el University College de Londres.
No todos los asistentes de voz son iguales. Apple, cuyos beneficios no dependen principalmente de la recopilación de datos, utiliza más computación y cifrado en el dispositivo en ambos extremos. «Apple es el mejor en privacidad», dice Estes. «Al mismo tiempo, creo que todos están de acuerdo en que Siri apesta.»Amazon Echo y Google Assistant son mucho más confiables porque los modelos de negocio de estas empresas dependen de saber mucho más sobre ti para poder segmentar la publicidad. Les gusta enmarcar la recopilación de datos como un medio para mejorar los servicios al tiempo que minimizan los inmensos beneficios comerciales.
Google y Amazon podrían, por supuesto, optar por mejorar la tecnología pagando a las personas para que la prueben, el tipo de trabajo que realizó Josephson en 2012, en lugar de tratar a sus clientes como una base de datos gratuita de investigación y desarrollo. O podrían anunciar el hecho de que los humanos pueden estar estudiando las grabaciones. «Debería estar en la caja», dice el Dr. Jeremy Gillula, director de proyectos de la Electronic Frontier Foundation, un grupo que hace campaña contra el mal uso de la tecnología. La interpretación generosa de los motivos de las empresas tecnológicas es una utopía descuidada, pero Gillula argumenta que si fueran realmente ingenuos sobre las implicaciones de su tecnología, entonces no llegarían a tales extremos para ocultarlas. «Dudo que pensaran que a nadie le importaría. Creo que estaban tratando de mantenerlo en secreto porque si los usuarios sabían lo que estaba pasando, podrían dejar de comprar los dispositivos. Fue una decisión de negocios calculada.»
En respuesta, una portavoz de Amazon dice: «La confianza del cliente está en el centro de todo lo que hacemos y nos tomamos muy en serio la privacidad del cliente. Revisamos continuamente nuestras prácticas y procedimientos para asegurarnos de ofrecer a los clientes las mejores experiencias y opciones de privacidad. Ofrecemos a los clientes varios controles de privacidad, incluida la posibilidad de revisar y eliminar sus grabaciones de voz. Para ayudar a mejorar Alexa, revisamos manualmente una muestra extremadamente pequeña de solicitudes de Alexa para confirmar que Alexa las entendió y respondió correctamente. Los clientes pueden optar por no incluir sus grabaciones de voz en ese proceso de revisión.»
Sin embargo, se ha demostrado una y otra vez que, en su publicidad y sus políticas de privacidad redactadas con astucia, las empresas de tecnología ocultan rutinariamente el alcance y la naturaleza de su recolección de datos. «Google y Amazon nos han demostrado que están inclinados a tomar todo lo que puedan hasta que alguien los atrapa con la mano en el frasco de galletas», dice Estes. «Odio ser dramático, pero no creo que nos vayamos a sentir seguros de sus prácticas de recopilación de datos. La regulación gubernamental es lo único que va a detener más daños.»
El gobierno de los Estados Unidos se ha mostrado reacio a actuar. En julio de 2015, el Centro de Información de Privacidad Electrónica (Epic), una organización sin fines de lucro de larga data dedicada a los «valores democráticos en la era de la información», pidió una investigación sobre los dispositivos «siempre encendidos», incluidos los asistentes de voz. Aún no han recibido respuesta. «Las soluciones basadas en el mercado no funcionan en esta área porque se ha permitido a las empresas ocultar los defectos de sus propios productos», dice Marc Rotenberg, director ejecutivo de Epic. Agrega: «Si usted o yo colocáramos un dispositivo en el hogar de otra persona con la capacidad de capturar sus comunicaciones privadas, estaríamos violando la Ley Federal de Escuchas Telefónicas.
En julio, un congresista demócrata, Seth Moulton, presentó la Ley de Explotación de la Escucha Automática, que penalizaría a las empresas cuyos asistentes de voz y timbres inteligentes (como Amazon Ring) graban conversaciones sin permiso, pero Gillula la considera «una legislación bastante débil». En Europa, que tiene una amarga experiencia de primera mano de vigilancia masiva bajo regímenes totalitarios, los reguladores tienen dientes más afilados. Recientemente, Johannes Caspar, el formidable comisario de protección de datos de Hamburgo, obligó a Google a suspender la transcripción de grabaciones de voz en toda la UE, mientras que Apple y Facebook detuvieron simultáneamente la transcripción en todo el mundo. (Amazon solo permitió a los usuarios optar por no participar en el monitoreo humano.) La Oficina del Comisionado de Información del Reino Unido está investigando si la supervisión humana infringe el Reglamento General de Protección de Datos. «Ya tenemos una regulación significativa en esta área, pero la clave es la aplicación», dice Veale. «Al igual que todas las autoridades europeas de protección de datos, la Oficina del Comisario de Información carece de fondos suficientes y está sobrecargada de trabajo, y necesita una inversión y un apoyo significativos para proteger los derechos fundamentales de los ciudadanos.»
Sin una regulación efectiva, no hay defensa contra una explotación más invasiva de los asistentes de voz. Por definición, siempre encendidos, incluso cuando no están despiertos, los dispositivos escuchan constantemente, aunque no siempre transmiten. Gillula dice que no hay obstáculos técnicos para permitir que los dispositivos inactivos, por ejemplo, rastreen la visualización de la televisión de los usuarios al responder a las señales de tono alto incrustadas en programas y anuncios, o identificar quién está en la casa en un momento dado. «Eso se convierte esencialmente en vigilancia constante», dice Gillula. «Tengo la esperanza de que las empresas nunca tomarían este camino distópico, pero pude verlas diciendo:’ Oh, es una característica: ¡sepa cuándo están sus hijos en casa!»Una característica atractiva es cómo comienzan la mayoría de estas cosas.»
Donde terminan ha galvanizado no solo a los vigilantes de la privacidad, sino también a los escritores. Las implicaciones distópicas de los asistentes de voz están apareciendo en ciencia ficción, incluida la película de Spike Jonze Her, Black Mirror y Years and Years. Detrás de todos ellos se cierne el » oído que nunca duerme «de la teletransportada de George Orwell en Mil novecientos ochenta y cuatro:» Tenías que vivir, viviste, de un hábito que se convirtió en instinto, en la suposición de que cada sonido que hiciste fue escuchado.»El Echo Show, un asistente inteligente con pantalla y cámara, fue ampliamente comparado con la pantalla telescópica cuando se presentó hace dos años. «Alexa, muéstrame la distopía», bromeó Vice. En la novela satírica Zed de Joanna Kavenna, la escritora explora el «extraño aspecto disfuncional de sirviente» de los asistentes de voz de la vida real (que tienen voces femeninas como su configuración predeterminada) y las consecuencias sociopolíticas de la Voz Única: en Zed, el monopolio de la tecnología, Escarabajo, es omnipresente e inexplicable. «La idea democrática es que estamos destinados a tener corporaciones y gobiernos transparentes, mientras que las personas tienen privacidad», dice. «Tenemos el inverso. La gente está inquieta porque no se debate a un nivel maduro y democrático.»
A Kavenna le preocupa que, lejos de legislar para proteger la privacidad del usuario, los estados de Estados Unidos intenten acceder a grabaciones de asistentes de voz en nombre de la prevención del delito y la seguridad nacional. El año pasado, un juez de New Hampshire fue noticia al ordenar a Amazon que enviara grabaciones de Eco de un doble asesinato a los investigadores. «Los coloca en una posición muy complicada entre sus clientes y el gobierno», dice Kavenna. «Dependemos mucho del régimen político.»
Rotenberg está de acuerdo: «Si eres un país autoritario, ¿por qué no simplemente transmitir el audio directamente a una agencia de vigilancia del gobierno y argumentar que es para reducir el crimen en el hogar? Es aterrador contemplar, pero concebible.»
Hoy en día, los asistentes de voz no son la amenaza más apremiante para la privacidad solo porque son opcionales. Un escáner de reconocimiento facial puede espiarte en un espacio público, pero Alexa, como un vampiro, debe ser invitada a tu casa. El único poder realmente efectivo que puedes ejercer sobre esta tecnología es no usarla. Pero tomar una decisión informada se ve comprometida por el marketing engañoso y socavada por los esfuerzos de Amazon para integrar Alexa en innumerables productos, incluidos automóviles, televisores, auriculares, microondas, termostatos y relojes, mientras firma acuerdos con empresas de construcción de viviendas y cadenas hoteleras, todo con el objetivo de convertirse en la Única Voz. «El control por voz se está imponiendo a los consumidores, les guste o no», dice Estes.
Todavía no hemos llegado a ese punto. Las empresas de tecnología se basan en el mito de la inevitabilidad tecnológica para ocultar las decisiones comerciales que han tomado y la posibilidad de otros modelos. Desafiarlos es luchar contra el futuro. Tonterías, dice Kavenna. «Es una consecuencia inevitable de la tecnología? No, es una aplicación ideológica de la tecnología. Si construyes un edificio, no tienes que construir un panóptico. No tiene que ser lo que tenemos ahora. A menudo dirán que si te opones a esto, eres un neo-ludita. Ese mito ha permitido que mucha gente se vuelva increíblemente rica.»
Ninguna de las personas con las que hablé posee un asistente de voz en casa, ni aconsejarían a nadie que lo consiga, pero todos están de acuerdo en que sería posible desarrollar un dispositivo que ofrezca los servicios más populares respetando la privacidad del usuario. Si toda la industria siguiera el ejemplo de Apple para hacer que el monitoreo humano se inscribiera en lugar de excluirse, ese sería un buen comienzo. Luego, a medida que aumenta la potencia de procesamiento, se pueden realizar más tareas dentro del dispositivo. Pero, por supuesto, eso significaría perder esos datos jugosos y monetizables. «Muchas de las cosas que realmente quieres hacer no deberían requerir Internet, y una vez que cortas el acceso a la nube, las preocupaciones de privacidad se desvanecen», dice Estes. «Siempre existe el potencial de que las cosas mejoren, y siempre habrá una lucha para llegar a ese punto.»
Jeremy Gillula está tan convencido de que un asistente de voz seguro y totalmente controlado por el usuario es posible que está diseñando el suyo propio, utilizando software de código abierto.
«Estoy llegando a eso», dice alegremente. «Aún no estoy 100% satisfecho, pero encenderá y apagará las luces.”
{{topLeft}}
{{bottomLeft}}
{{topRight}}
{{bottomRight}}
{{/goalExceededMarkerPercentage}}
{{/ticker}}
{{heading}}
{{#paragraphs}}
{{.}}
{{/paragraphs}}{{highlightedText}}
- Compartir en Facebook
- Compartir en Twitter
- Compartir a través de Correo electrónico
- Compartir en LinkedIn
- Compartir en Pinterest
- Compartir en WhatsApp
- Compartir en Messenger
Leave a Reply