2017 년 어느 날,알렉사는 불량 갔다. 때 마틴 josephson 은 살고있는 사람,런던에서,직장에서 돌아오자,그가 듣고 그의 아마존 Echo 점 음성 보조 뱉 단편적인 명령,겉보기에 따라 그 이전의 상호 작용을 가진 장치입니다. 그것은 역류하는 요청을 책 기차 티켓을 위해 여행을 그가 이미 고 기록하는 TV 쇼는 그는 이미 보았다. 조셉슨은 깨우기 단어–”알렉사”–를 활성화하기 위해 아무 것도 말하지 않았고 그는 그것을 막을 것이라고 말했다. 그는”카프카 스크”라고 말했습니다.

이것은 Josephson(본명이 아닌)이 전직 Amazon 직원 이었기 때문에 특히 흥미로 웠습니다. 3 년 전,그는 공개되지 않은 목적을 위해 마이크에 분명히 의미없는 문구의 문자열을 암송 방에 앉아 자원했다. 아마존이 2014 년 미국에서 에코를 발표했을 때만 그가 작업 한 것을 깨달았습니다. 그는 2016 년에 출시 된 후 에코의 저렴하고 작은 모델 인 Dot 을 구입하여 엉망이 된 날까지 충분히 유용하다는 것을 알았습니다. 도트의 폭발이 가라 앉았을 때,그는 그것을 분리하여 빈에 입금했습니다. “나는 조금 어리석은 느낌이 들었다”고 그는 말한다. “아마존에서 일하면서 사람들의 데이터를 어떻게 사용했는지 보았을 때 나는 그들을 믿을 수 없다는 것을 알았습니다.”

점은 다다이스트 드릴 상사처럼 행동하기로되어 있지 않았습니다. 그런 다음 다시 음성 보조원은 종종해야 할 일을하지 않습니다. 작년에는 아마존에 고객에 독일로 전송에 대해 1,700 오디오 파일에서 다른 사람의 에코 제공하는 충분한 정보 이름을 찾는 불행한 사용자와 그의 여자 친구입니다. (아마존은이”불행한 사고”를 인간의 실수로 기인했다.)

샌프란시스코,숀에게 돌아오는 일이라고 주장하는 그의 에코 활성화체고 유쾌했다:”모든 시간 내 눈을 감을 내가 보는 모든 사람들이 죽어가고 있다.”In Portland,Oregon,여자를 발견하는 그녀는 에코 촬영했다 그것을 자신을 보내의 기록적인 대화를 하나의 남편의 직원이다. 성명에서,아마존이라고 말했 Echo 있어야 제대로 못 들었다는 듯이어 말씀,주장 할 요청을 보내는 메시지,제대로 못 들었다는 듯이에 이름을 그것의 연락처 목록은 다음 주장 할 확인 메시지를 보내려면,모든 동안에 대한 대화를 나무 바닥. 별로 좋지 않아,알렉사.

기술 자주 고무 ambivalence:우리가 알고 있는 Facebook 과 구글에 대해 너무 많이 알고,우리가 아직 우리는 계속해서 그들의 서비스를 사용하기 때문에 그들은 너무나 편리합니다. 그러나 음성 조수는 비정상적으로 편파적입니다. 사람들은 그들을 고려한 불길한 및 침략(나 자신을 포함하는)관광으로 만족하는 동안,그들을 찾아 사람들은 유용하고 양성 볼 의심으로 편집증 technophobes. 기술 업계와의 관계에 대한 더 큰 문제로 자유 로워지는 한 가지 질문이 있습니다:알렉사를 집에 들여 보내야합니까?

월,아마존의 수석 부회장은 회장의 장치,데이빗 림프,공개하는 회사보다 더 많은 판매 100m Alexa 사용하는 기기. 작년에 성인 5 명 중 1 명이 가정용 음성 도우미를 소유 한 미국에서 Alexa 는 Google Assistant 의 24%에 비해 70%의 미국 시장 점유율을 기록했습니다. 그러므로 최고의 위치가 무엇 Shoshana Zuboff,에서 그녀의 베스트 셀러의 시대,자본주의 감시,통화를”하나의 목소리”:지배적인 생태계를 줄 것이다 그것의 운영자”라는 기능을 예측하고 수익 창출의 모든 순간 모든 사람들 중에 모든 일”입니다. Zuboff 는 Alexa 의 탄생을”임계 값 이벤트”라고 부릅니다.

알렉사에는,그러나,성장의 시대에 증가하는 무신론 힘에 대해하고 도덕”큰 다섯”기술 회사:아마존,애플,Facebook,Google/알파벳과 Microsoft. Edward Snowden leakes 와 Cambridge Analytica 스캔들과 같은 사건은 실리콘 밸리의 유토피아 적 약속을 더럽 혔습니다. 최고 경영자는 개인 정보 보호 문제를 사소하게 만들 가능성이 적습니다. 기술 저널리스트는 치어 리더보다 비평가가 될 가능성이 높습니다. 정치인들은 회사를 더 기꺼이 붙잡고 있습니다.

올해는 특히 까다로웠습니다. 지난 여섯 개월,블룸버그,보호자,그 뉴스와 벨기에의 뉴스 채널 NICOLAS 가 점차적으로 계시는 모든 큰 다섯이 있었을 사용하여 인간의 계약자는 분석하는 작은 비율의 음성 조합니다. 지만 녹음은 익명으로 그들은 종종을 포함한 충분한 정보를 식별하거나 당황하게 사용자는–특히면 그들은 무엇을 듣는 기밀 의료 정보 또는 실수로 성별 테이프입니다. 계시는 많은 알렉사 회의론자들에게 마지막 짚이었습니다. “우리는 우리 자신의 제작의 테크노-디스토피아에 살고 있습니다. 집에 알렉사 나 다른 음성 조수가 여전히 있다면 경고를 받았다”고 기즈모 작가 인 매트 노박(Matt Novak)은 썼다.

아마존과 다른 빅 5 회사에서 일한 Josephson 은이 회사에 대한 저항이 정당하다고 생각합니다. “그들은 제 생각에 그 제품의 영향이 어떻게 될지 궁금해하는 것에 제로 관심을 가지고 있습니다. 그 권력을 휘두르는 올바른 사람들로 그들을 대하는 것은 우리가 다른 어떤 산업에서도 허용하지 않을 우스꽝스러운 상황입니다. 그들은 솔직히 우리가 알지 못하고 매일 수집하는 데이터의 안전한 보호자가 아닙니다.”

Voice control 은 hal9000,2001 년 sentient computer:A Space Odyssey,Star Trek 의 starship Enterprise 의 끝없이 도움이되는 컴퓨터를 통해 60 년대에 처음으로 대중의 상상력을 사로 잡았습니다. 후자는 Amazon 의 Echo 와 Google Assistant 를 개발 한 팀의 주요 기준점이었습니다. “은 밝은 빛에,빛,여전히 많은 년간다,많은 수십 년 동안 떨어져,다시 스타 트랙터,”미약했 회의에서 관객 2017.

현실 세계에서 음성 인식은 2011 년 Apple 이 전화 기반 음성 비서 인 Siri 를 출시하기 전까지는 평범하지 않았습니다. 알렉사는 사용자의 집을 식민지화함으로써 훨씬 더 나아갑니다. 30 년 전,선견지명이있는 컴퓨터 과학자 Mark Weiser 는 이런 종류의 마찰없는 생태계를”유비쿼터스 컴퓨팅”이라고 불렀습니다. 2015 년에 Google 에릭 슈미트는 견 일할 때 인터넷 될 것이다”부분에 당신의 존재의 모든 시간을 만들어,”실제 행동으로 프로그램이 무엇으로 노트북 컴퓨터 또는 전화입니다. 당신은 결코 오프라인이 될 수 없습니다.

Gizmodo 편집기를 아담 클라크 스 처음에는 흥분에 의 첫 번째 주요 하드웨어 혁신한 이후 애플의 아이패드 네이다. 그러나 그는 기술에 대해 더 많이 알게 될수록 덜 좋아했습니다. 그 자신의 에코는 대본없이 깨어날 것입니다. 녹음은 법원의 경우에 증거로 나타나기 시작했습니다. FBI 는 Alexa 를 감시 목적으로 사용하고 있음을 확인하거나 거부하기를 거부했습니다. “프라이버시 워치 독이 옳았다는 것이 나에게 점점 더 분명해졌습니다.”라고 그는 말합니다. “그것은 기지에서 도청 장치입니다.”

음성 조수는 효율성과 개인 정보 보호 사이의 긴장을 구체화합니다. 이 기술은 여전히 깊이 불완전한에서 하나 이상의 성적 증명서 10 분석에 의해 하나의 블룸버그의 소스,알렉사 일어났습니다. 정확하게 해석 음성 명령으로 복용하는 계정의 다른 언어,악센트,톤,컨텍스트 및 도로 주변의 혼란에 필요 훨씬 더 많은 계산 능력보다는 하나의 장치가 포함 될 수 있습니다. 따라서 대부분의 작업은 클라우드에서 수행되며,이는 인간 모니터가 음성 녹음을 수집하고 분석 할 수있는 방법입니다. “당신은 빌딩 인프라할 수 있는 나중에 공동 선택에서 바람직하지 않은 방법으로 큰 다국적 기업 및 상태 감시 장치,및 손상 를 이용하여 악의적인 해커에 의한”라고 말 박사 마이클 빌,강의에서는 디지털 저작권 및 규제에 UCL 교수의 법에서 대학 컬리지 런던도 있습니다.모든 음성 조수가 동일하지는 않습니다. 이익이 주로 데이터 수집에 의존하지 않는 Apple 은 양쪽 끝에서 장치 내 계산 및 암호화를 더 많이 사용합니다. “애플은 프라이버시면에서 최고입니다.”라고 에스테스는 말합니다. “동시에,나는 모든 사람들이 시리가 짜증을내는 것에 동의한다고 생각한다.”아마존 에코과 구글 지원이 훨씬 더 많은 신뢰할 수 있기 때문에 이러한 회사의 비즈니스 모델에 따라 알도록 더 많은 당신에 대해하기 위해서 microtarget 광고입니다. 그들은 엄청난 상업적 혜택을 재생하면서 서비스를 개선하기위한 수단으로 데이터 수집을 프레임 좋아한다.

Google 아마존할 수 없습은 물론,선택을 개선하는 기술에 의해 지불하는 사람들을 테스트–종류의 작업 josephson 은행에서는 2012 년–대신으로 그들의 고객에게 무료 연구와 개발을 데이터베이스입니다. 또는 그들은 인간이 녹음을 공부하고 있을지도 모른다는 사실을 광고 할 수 있습니다. “그것이 있어야 상자에”라고 말 Dr 제레미 Gillula,프로젝트 디렉터 Electronic Frontier Foundation,그룹는 캠페인에 대하여 잘못 사용 기술입니다. 한 해석의 기술 기업 동기가 부 utopianism 지만,Gillula 주장하는 경우 그들은 정말 순진한의 의미에 대한 자신의 기술을,그 다음 그들이 가지 않을 것 같은 길이를 은폐한다. “나는 그들이 아무도 신경 쓰지 않을 것이라고 생각했는지 의심 스럽다. 나는 그들이 유지하기 위해 노력하고 있었 그것은 조용하기 때문에 사용자의 경우에는 무슨 일이 있었는지 알고 있는 그들을 중지할 수 있습을 구입 장치. 계산 된 비즈니스 결정이었습니다.”

에서의 응답,대변인은 아마존에 대한 말씀:”고객의 신뢰는 모든 것의 중심에 있고 우리는 고객의 개인정보보호를 매우 중요하게 생각. 우리는 지속적으로 검토 우리의 관행과 절차를 확인 우리는 고객에게 제공하는 최고의 경험과 개인정보 보호 선택. 우리는 자신의 음성 녹음을 검토하고 삭제하는 기능을 포함하여 여러 개인 정보 보호 컨트롤을 고객에게 제공합니다. Alexa 를 개선하기 위해 alexa 요청의 극히 작은 샘플을 수동으로 검토하여 Alexa 가 올바르게 이해하고 응답했는지 확인합니다. 고객은 음성 녹음이 해당 검토 프로세스에 포함되도록 선택할 수 있습니다.”

아직 입증되었 다시 시간과 시간,그 자신의 광고와 영악하게 표현한 개인정보 보호정책이테크 기업이 일상적으로호의 범위와 자연의 데이터 수 있습니다. “Google 과 Amazon 은 누군가가 쿠키 항아리에 손을 잡을 때까지 할 수있는 한 많이 가져가는 경향이 있음을 보여주었습니다.”라고 Estes 는 말합니다. “내가 싫어 극적인,하지만 나는 생각하지 않 우리는 이제까지 느끼에서 안전의 데이터 수집습니다. 정부 규제는 더 많은 피해를 막을 수있는 유일한 것입니다.”

미국 정부는 행동을 꺼려하고있다. 에서는 2015,자 개인 정보 센터(Epic),긴 설립된 비영리 조직의 전념하는”민주주의의 가치 정보화 시대에서”라는 대한 조사로”항상”을 포함하여 장치의 음성 보조. 그들은 아직 응답을받지 못했습니다. Epic 의 전무 이사 인 Marc Rotenberg 는”회사가 자체 제품의 결함을 은폐 할 수 있었기 때문에 시장 기반 솔루션은이 분야에서 작동하지 않습니다. He adds:”는 경우에 당신은 또는 나는 장소에서 장치를 다른 사람의 집을 캡처 할 수있는 기능을 그들의 개인 통신,우리는 것에서의 위반 연방 도청 행위.”

월에,민주당 의원은,세 Moulton,도입된 자동 듣고 행동 착취하는 것이 처벌 기업이 그의 음성 보조와 스마트 초인종(아마존의 링)레코드는 대화를 허락 없이,하지만 Gillula 고려하다”매우 약하다”라고 규정되어 있다. 전체주의 정권 하에서 대량 감시에 대한 쓴 직접 경험이있는 유럽에서는 규제 당국이 더 날카로운 이빨을 가지고있다. 최근,요하네스 카스,함부르크의 강력한 위원 데이터 보호에 대한 강제 Google 중단을 전사의 음성 녹음을 통해 EU,하는 동안 애플 Facebook 동시에 중단 전 세계 어디에서나. (아마존은 단지 사용자가 인간 모니터링을 옵트 아웃하도록 허용했다.)영국 정보 감독관 사무실은 인간 감독이 일반 데이터 보호 규정을 위반하는지 여부를 조사하고 있습니다. “우리는 이미이 분야에서 상당한 규제를 가지고 있지만 핵심은 집행입니다.”라고 Veale 은 말합니다. “다음과 같은 모든 유럽 데이터 보호 당국에 정보를 위원의 의무 및 자금이 부족한 물체고 상당한 투자와 지원 시민을 보호하기 위해’기본적 권리입니다.”

효과적인 규제가 없으면 음성 조수의보다 침습적 인 착취에 대한 방어책이 없습니다. 에 의해 정의에 항상 경우에도,그들은 깨어있는 장치가 지속적으로 듣기하지 않지만,항상 전송. Gillula 있다는 것을 말한다 기술 장애물을 사용하 휴 장치,예를 들어,사용자를 추적’텔레비전 시청에 응답하여 높은 신호에 포함하여 광고 또는 식별하는 사람은 집에서 주어진 시간이다. “그것은 본질적으로 끊임없는 감시가됩니다.”라고 Gillula 는 말합니다. “나는 희망이 있는 회사가 가지 않을 것 이라고 이 상의 경로,그러나 나는 그들을 볼 수 있 말하기를’아,그것은 특징을 알고있을 때 아이들이 집에!’매력적인 기능은 이러한 것들의 대부분이 어떻게 시작되는지입니다.”

그들이 끝나는 곳은 프라이버시 워치 독뿐만 아니라 작가들도 아연 도금했습니다. Spike Jonze 영화 Her,Black Mirror 및 Years and Years 를 포함하여 음성 조수의 디스토피아 적 의미가 공상 과학에 나타나고 있습니다. 그 뒤에 모든 직”never-자 귀”조지 오웰의 티비에서 아홉 팔:”당신은 라이브 살았,에서 습관이 되었는 본능에 가는 모든 소리를 만들었 엿.”화면과 카메라가 장착 된 스마트 어시스턴트 인 에코 쇼는 2 년 전에 소개되었을 때 텔레 스크린과 널리 비교되었습니다. “알렉사,디스토피아를 보여줘.” 에서 조 Kavenna 의 풍자 데이빗 소설 작가를 탐구한”이상한 역기능-종 측면”의 음성 보조(수 있는 모든 여성의 목소리로 자신의 기본 설정)과 사회 정치적인 결과를 하나의 음성:에서 데이빗,기술 독점,딱정벌레가 편재하고 설명할 수없는. “민주적 인 생각은 사람들이 프라이버시를 가지고있는 동안 우리는 투명한 기업과 정부를 갖기위한 것”이라고 그녀는 말합니다. “우리는 역수가 있습니다. 사람들은 성숙하고 민주적 인 수준에서 논의되지 않기 때문에 불안해합니다.”

Kavenna 걱정에서뿐이 사용자 개인정보 보호를 위해 미국을 추구하는 음성 액세스 조 기록에서 이름의 범죄 예방 및 국가 안보입니다. 작년에 뉴햄프셔의 한 판사는 아마존에게 이중 살인의 에코 녹음을 수사관에게 제출하도록 명령함으로써 헤드 라인을 장식했습니다. Kavenna 는”고객과 정부간에 매우 복잡한 위치에 놓이게됩니다. “우리는 정치 체제에 매우 의존하고 있습니다.”

Rotenberg 는 동의합니다: “당신은 독재 국가,왜 그냥 실행하는 오디오 스트림에 바로 정부 감시 기관 및 주장하는 그것의 범죄를 줄이기 위해 가정에서? 관조하는 것은 무섭지 만 생각할 수 있습니다.”

오늘날 음성 조수는 선택 사항이기 때문에 개인 정보 보호에 대한 가장 시급한 위협이 아닙니다. 얼굴 인식 스캐너는 공공 공간에서 당신을 감시 할 수 있지만 알렉사는 뱀파이어처럼 집에 초대해야합니다. 이 기술을 통해 휘두를 수있는 유일한 진정한 유효 전력은 사용하지 않는 것입니다. 그러나 만들고 정보를 선택에 의해 손상된 잘못된 마케팅 및 훼손에 의해 아마존의 노력을 포함하는 알렉사에는 수많은 제품,자동차를 포함,tv,헤드폰,전자레인지,온도 조절기 및 시계,을 서명하는 동안 다룬 housebuilding 회사와 호텔 체인의 모든 눈을 가진되고 하나의 음성입니다. “음성 제어는 그들이 좋아하든 그렇지 않든 소비자의 목구멍을 강요 당하고있다”고 에스테스는 말한다.

우리는 아직 거기에 없습니다. 단 기술 기업에 의존한 신화의 기술을 필연을 막 비즈니스 결정을 만들었고의 가능성 다른 모델이다. 그들에게 도전하는 것은 미래와 싸우는 것입니다. 말도 안되는,Kavenna 는 말한다. “기술의 필연적 인 결과입니까? 아니,그것은 기술의 이데올로기 적 응용이다. 건물을 짓는다면 판옵티콘을 짓지 않아도 됩니다. 그것은 우리가 지금 가지고있는 것일 필요는 없습니다. 그들은 종종 당신이 이것에 반대한다면,당신은 네오 러 다이트라고 주장 할 것입니다. 그 신화는 많은 사람들이 엄청나게 부자가 될 수있게 해주었습니다.”

없음의 사람들을 집을 소유한 음성 보조으며,그들은 조언을 얻을 사람이 하나,하지만 그들은 모두 동의하는 것이 가능한 개발을 전달하기 위한 장치 가장 인기 있는 서비스를 존중하면서 사용자의 개인정보보호. 는 경우 전체 산업에 따라 애플의 선도 인간의 모니터링을 선택에서 오히려 이상 선택이 될 것 이라고 강력한 시작입니다. 그런 다음 처리 능력이 증가함에 따라 장치 내부에서 더 많은 작업을 수행 할 수있었습니다. 그러나 물론,그것은 그 육즙이 많고 돈이 많은 데이터를 몰수하는 것을 의미합니다. “많은 것은 당신이 정말 하고 싶지 않을 필요로 인터넷,그리고 일단 당신이에 대한 액세스를 차단하는 클라우드한 다음,개인정보 보호 관심사라”라고 말 Estes. “상황이 나아질 수있는 잠재력이 항상 있습니다-그리고 항상 그 시점에 도달하기위한 싸움이있을 것입니다.”

제레미 Gillula 은 확신이 안전하고 완전히 사용자 제어 음성이 지원이 가능한 그는 디자인을 자신을 사용하여,오픈 소스 소프트웨어입니다.그는 유쾌하게 말한다. “아직 100%만족하지는 않지만 조명을 켜고 끌 것입니다.”

{{#ticker}}

{{topLeft}}

{{bottomLeft}}

{{topRight}}

{{bottomRight}}

{{#goalExceededMarkerPercentage}}

{{/goalExceededMarkerPercentage}}

{{/ticker}}

{{heading}}

{{#paragraphs}}

{{.}}

{{/paragraphs}}{{highlightedText}}

{{#cta}}{{text}}{{/cta}}

Remind me in May

우리는 우리 것이에서 접촉하는 당신을 생각 나게 기여하고 있습니다. 2021 년 5 월에받은 편지함에서 메시지를 찾아보십시오. 기고에 대한 질문이 있으시면 저희에게 연락하십시오.

• 에서 공유 Facebook
• 트위터에서 공유
• 이메일을 통해 공유
• LinkedIn 에서 공유
• 공유 Pinterest
• 드
• 공유 메신저에