Alexa слухае на Amazon Echo

Усе казалі пра справаздачу Bloomberg, што работнікі Amazon слухаюць галасавыя запісы, створаныя падчас размовы з Alexa. Але Амазонка далёка не адна. Вось як тэхналагічныя кампаніі могуць і прааналізавалі гэтыя прыватныя дадзеныя, якія вы загружаеце.

Ад чытання запісак да пераследу непаўналетніх

Лагатып Evernote на тэлефоне

Давайце пагаворым пра некаторыя прыклады: супрацоўнікі Evernote распавядаюць пра чытанне вашых асабістых нататак супрацоўнікам Google і Facebook, якія пераследваюць людзей.

  • Evernote дала сваім супрацоўнікам магчымасць чытаць вашы асабістыя нататкі, каб «Палепшыць ваш досвед», змяніўшы сваю палітыку прыватнасці, зробленую ў студзені 2017 года. Evernote перадумала і паабяцала, што супрацоўнікі будуць патрабаваць дазволу спачатку пасля таго, як многія карыстальнікі засмучаюцца. Але гэта ілюструе праблему - Evernote можа лёгка даць сваім супрацоўнікам доступ. І нават калі вы падзяліліся дадзенымі з Evernote, чакаючы, што палітыка кампаніі будзе захоўваць яе ў бяспецы, кампанія можа змяняць гэтую палітыку, калі заўгодна. Google аднойчы звольніў Інжынера па надзейнасці сайта за выкарыстанне доступу да сервераў Google, каб пераследваць і шпіёніць за некалькімі непаўналетнімі, закранаючы іх часопісы выклікаў у Google Voice, а таксама атрымліваць доступ да іх часопісаў і разблакуючы сябе ў спісе сяброў падлетка. Інжынеры па надзейнасці сайта маюць доступ да ўсяго, таму што ім трэба, каб яны выконвалі сваю працу - і гэта магчыма, каб супрацоўнікі пераходзілі на зман і злоўжывалі гэтым доступам, як гэта рабіў гэты інжынер у 2010 годзе. Facebook звольніў інжынера па бяспецы, які выкарыстаў яго доступ у Facebook, каб скрасці некалькі жанчыны ў Інтэрнэце ў 2018 годзе. Мацярынскія платы паведамілі, што іншыя супрацоўнікі былі адхілены за выкраданне сваіх былых людзей і іншыя падобныя жудасныя рэчы. Мы не рэкамендуем праграмам прадастаўляць доступ да электроннай пошты. Але, калі ў вас ёсць, у гэтых дадатках могуць быць людзі, якія чытаюць вашу электронную пошту - няхай гэта будзе з Gmail, Outlook.com або з любога іншага ўліковага запісу электроннай пошты. Часопіс Wall Street Journal паведамляў, што чалавечыя інжынеры, якія працавалі ў некаторых кампаніях, якія адказваюць за гэтыя прыкладанні, праглядалі сотні тысяч лістоў для навучання іх алгарытмам.

Гэта далёка не поўны спіс. Калісьці ў Facebook была памылка, якая падвяргала прыватныя фатаграфіі распрацоўшчыкам дадаткаў, і ваш працадаўца можа чытаць вашы асабістыя паведамленні ў Slack - інакш кажучы, яны не такія ўжо і прыватныя. Нават АНБ павінна было звольніць людзей за выкарыстанне дзяржаўных сістэм назірання, каб шпіёніць за імі. І кожная кампанія, якая валодае вашымі дадзенымі, перадасць яе ўраду, калі прыйдзе ордэр, як гэта зрабіла Amazon, калі Алекса пачула двайное забойства.

Воблака - гэта проста кампутар кагосьці іншага

Калі вы карыстаецеся сэрвіс, які загружае вашыя дадзеныя ў "воблачную" службу, гэта проста захоўванне дадзеных на серверах кампаніі. І гэтая кампанія можа ўбачыць дадзеныя, калі захоча.

Гэта досыць проста, але справаздачы пра супрацоўнікаў, якія слухаюць нашы галасавыя запісы, усё роўна адчуваюць шакіроўку. Магчыма, мы ўсе мяркуем, што ёсць занадта шмат дадзеных, і людзі не могуць іх вывучыць, альбо, магчыма, мы думаем, што павінен быць закон, які перашкаджае тэхналагічным кампаніям глядзець на гэтыя рэчы. Але, па меншай меры, у ЗША мы не ведаем ніводнага закона, які б перашкаджаў кампаніям глядзець на гэтыя дадзеныя - пакуль яны сумленныя ў гэтым, магчыма, раскрываючы гэты факт у дакуменце аб службовых паслугах, які ніхто не чытае .

Нават з галасавымі памочнікамі, аднак, гэта не толькі Amazon. Як кажа сам Bloomberg, нават Apple, арыентаваная на прыватнае жыццё, слухае запісы Siri, каб дапамагчы навучыць алгарытмы, якія прымушаюць працаваць галасавымі памочнікамі. А Bloomberg кажа, што некаторыя рэцэнзэнты Google таксама слухаюць запісы, зробленыя з прылад Google Home.

Законныя прычыны людзі могуць глядзець на вашыя дадзеныя

Тэхнік у сервернай зале

Вызначаючы страшных сталкераў і іншых людзей, якія злоўжываюць ім доступ у бок, вось некалькі важных прычын, якія могуць супрацоўнікам кампаніі вывучыць вашыя дадзеныя:

  • Запыты ўрада: ордэр можа прымусіць кампанію шукаць вашыя дадзеныя на прадмет чагосьці адпаведнага і перадаваць іх урадавым алгарытмам навучання: у сувязі з тым, як працуе машыннае навучанне, алгарытмы, якія выкарыстоўваюцца ў праграмным забеспячэнні, патрабуюць пэўнага ўкладу чалавека ў навучальны працэс. Вось чаму людзі слухаюць запісы Alexa і Siri, і менавіта таму Evernote хацеў, каб людзі праглядалі вашы нататкі. Забеспячэнне якасці: кампаніі могуць вывучыць запісы ці іншыя дадзеныя, каб даведацца, як працуе іх служба. Нават калі вы размаўляеце з робатам, хтосьці яшчэ можа паслухаць запіс пазней, каб даведацца, як гэта адбылося. Падтрымка кліентаў: Кампанія можа папрасіць дазволу на прагляд вашых дадзеных, каб дапамагчы вам, калі вам патрэбна падтрымка. Па крайняй меры, кампанія спадзяецца зрабіць гэта толькі з вашага дазволу - што дазволіць гэтак жа проста, як адправіць твіт, як і ў Google Photos. Паведамленні аб парушэннях: кампанія можа прааналізаваць вашы дадзеныя, каб даведацца пра паведамленні аб парушэннях. Напрыклад, скажам, у вас ёсць асабістая размова адзін на адзін у Facebook. Калі іншы чалавек паведаміў вам пра пераслед ці іншае парушэнне, Facebook разгледзеў бы канверсію.

Адзіны спосаб спыніць гэта: шыфраванне з канца ў канец

Усё гэта адбываецца з-за таго, як працуе Інтэрнэт. Нягледзячы на ​​ўсе размовы пра "шыфраванне", якія забяспечваюць бяспеку вашых дадзеных, дадзеныя звычайна шыфруюцца толькі тады, калі яны адпраўляюцца паміж вашымі прыладамі і серверамі кампаніі. Напэўна, дадзеныя могуць захоўвацца ў зашыфраваным выглядзе на серверах гэтай кампаніі, але такім чынам, што кампанія можа атрымаць доступ да іх. У рэшце рэшт, кампаніі трэба расшыфраваць дадзеныя, каб адправіць іх вам.

Адзіны спосаб прадухіліць гэта з дапамогай шыфравання канца ў канец альбо шыфравання на баку кліента. Гэта азначае, што праграмнае забеспячэнне, якое вы выкарыстоўваеце, будзе шыфраваць дадзеныя на прыладах, якія вы выкарыстоўваеце, захоўваючы толькі зашыфраваныя дадзеныя на серверах кампаніі такім чынам, каб кампанія не магла атрымаць доступ да іх. Вашы дадзеныя будуць вашымі.

Але гэта менш зручна ў многіх адносінах. Такія паслугі, як Google Photos, былі б немагчымыя, бо яны не маглі аўтаматычна выконваць заданні на вашых фотаздымках на серверах кампаніі. Кампаніі не змаглі "падвоіць" дадзеныя і павінны былі б пакласці больш грошай у сховішча. Для галасавых памочнікаў усе апрацоўкі павінны адбывацца на мясцовым узроўні, і кампаніі не маглі выкарыстоўваць галасавыя дадзеныя для больш якаснага навучання сваіх памочнікаў.

Калі вы страцілі ключ шыфравання, вы больш не зможаце атрымаць доступ да сваіх дадзеных - у рэшце рэшт, калі кампанія можа зноў атрымаць доступ да вашых файлаў, гэта азначае, што кампанія можа атрымаць доступ да вашых файлаў у першую чаргу.

Звязана: Чаму большасць вэб-сэрвісаў не выкарыстоўваюць шыфраванне "ў канцы"