Одного разу мешканець Лондона Мартін Джозефсон (ім’я змінено) повернувся додому з роботи й почув, як його колонка Amazon Echo Dot вимовляє уривчасті команди, мабуть, засновані на його попередніх запитах. Схоже, вона намагалася забронювати квитки на потяг для вже зроблених Джозефсоном поїздок і записати телепередачі, які він вже подивився.
При цьому чоловік не включав колонку спеціальним словом — «Алекса» — і потім ніяк не міг вимкнути її. За його словами, це була ситуація в дусі творів Франца Кафки.
Цей випадок особливо цікавий тим, що Джозефсон виявився колишнім співробітником Amazon. За три роки до інциденту він зголосився промовляти для запису явно безглузді фрази, цілі цього завдання не розкривалися. Тільки коли Amazon випустив Echo у 2014 році, чоловік зрозумів, над чим працював. Він купив Dot, дешевшу модель Echo, що з’явилася у 2016 році, і вважав її досить корисною до того дня, коли вона ніби зійшла з розуму. Коли це сталося, Джозефсон відключив колонку і прибрав її якомога далі.
«Я відчував себе трохи безглуздо. Попрацювавши в Amazon і побачивши, як вони використовують дані людей, я зрозумів, що не можу їм довіряти », — згадує Джозефсон.
Голосові помічники часто роблять дії, які вони не повинні були робити. У минулому році клієнту Amazon з Німеччини помилково відправили близько 1700 аудіофайлів, записаних чиїмось Echo. У них містилося достатньо інформації, щоб дізнатися ім’я і місце проживання власника колонки і його подруги. Amazon тоді заявив, що причиною непорозуміння став людський фактор.
Мешканець Сан-Франциско Шон Кіннер стверджує, що його колонка Echo одного разу включилася і радісно мовила: «Кожен раз, коли я закриваю очі, єдине, що я бачу, — це люди, що вмирають». У Портленді, штат Орегон, жінка виявила, що колонка вирішила відправити записи особистих розмов одному зі співробітників її чоловіка. У заяві Amazon говорилося, що Echo швидше за все помилково почуло слово, що її пробуджує, потім запит на відправлення повідомлення, ім’я зі списку контактів, а потім підтвердження відправлення повідомлення, — і все це сталося під час розмови про паркетну підлогу.
До технології часто формується двоїсте ставлення: ми розуміємо, що Facebook і Google занадто багато знають, але продовжуємо користуватися ними, бо вони дуже зручні. Ставлення до голосових помічників, як правило, більш конкретно. Їх противники називають техноінтузіастів безпечними, а ті, у свою чергу, вважають опонентів параноїдальними технофобами.
У січні старший віцепрезидент Amazon по приладах Девід Лімп оголосив, що компанія продала понад 100 млн пристроїв з підтримкою Alexa. У минулому році в США, де на той момент у кожного п’ятого дорослого був домашній голосовий помічник, Alexa займала 70% ринку в порівнянні з 24% у Google Assistant.
Однак Alexa з’явилася в епоху висхідного скептицизму стосовно моральних принципів великої п’ятірки технологічних компаній: Amazon, Apple, Facebook, Google і Microsoft. Скандали, пов’язані з Едвардом Сноуденом і Cambridge Analytica, кинули тінь на утопічні обіцянки Кремнієвої долини.
2019 рік був особливо складним. За останні шість місяців Bloomberg, Guardian, Vice News і бельгійський новинний канал VRT показали, що всі компанії з великої п’ятірки використовують людей для аналізу деяких записів з розумних колонок. Хоча аудіо анонімні, вони часто містять достатньо інформації, щоб ідентифікувати користувача і поставити його в незручне становище — особливо, якщо на них випадково потрапила конфіденційна медична інформація або запис сексу.
«Ми живемо в технодістопії, створеної нашими ж руками. Якщо у вас вдома все ще є Alexa або будь-який інший голосовий помічник, вас попередили», — написав автор порталу Gizmodo Метт Новак.
Голосові помічники уособлюють суперечність між ефективністю і конфіденційністю. Ця технологія все ще глибоко недосконала: як мінімум в одній з 10 записів, проаналізованих одним з джерел Bloomberg, Alexa включалася випадково. Точна інтерпретація голосових команд з урахуванням різних мов, акцентів, тонів, контекстів і зовнішніх шумів вимагає обчислювальних потужностей, які в багато разів перевищують можливість одного пристрою. Таким чином, більшу частину даних доводиться відправляти на обробку в хмару.
«Зараз створюється інфраструктура, яку згодом можуть використовувати транснаціональні корпорації й державні системи спостереження і яку гіпотетично здатні зламати зловмисники», — переконаний фахівець по цифровому праву Майкл Веал.
Не всі голосові помічники однакові. Apple, основний обсяг прибутку якої формується не внаслідок збору даних, застосовує більш досконале шифрування. «Apple — кращий варіант з точки зору конфіденційності. Водночас, думаю, всі згодні з тим, що Сірі працює так собі», — зазначив редактор Gizmodo Кларк Естес. Amazon Echo і Google Assistant набагато зручніше, тому що успіх бізнесу їх виробників залежить від того, як багато вони знають про покупців і наскільки точно можуть налаштувати таргетовану рекламу.
Звичайно, Google й Amazon можуть розвивати цю технологію, наймаючи додаткових співробітників, а не розглядаючи клієнтів як безкоштовну базу даних. Крім того, вони могли б відкрито заявляти про те, що записи будуть прослуховувати інші люди. «Про це має повідомлятися всюди», — упевнений Джеремі Джилла, проєктний директор в Electronic Frontier Foundation – об’єднання, яке виступає проти неправомірного використання технологій. На його думку, виправдання мотивів технологічних компаній — це нерозумний утопізм: якби вони дійсно не підозрювали про наслідки застосування своїх технологій, то не пішли б на все, щоб їх приховати.
«Сумніваюся, що вони припускали, ніби всім це буде байдуже. Думаю, вони намагалися зберігати мовчання, тому що якби користувачі знали про те, що відбувається, то вони перестали б купувати пристрої. Це було зважене бізнес-рішення», — говорить Джилла.
В Amazon заявили, що дуже серйозно ставляться до захисту особистої інформації клієнтів і не використовують її без дозволу. Проте, знову і знову демонструється, що технологічні компанії постійно приховують масштаби та характер збору даних.
«Google й Amazon продемонстрували свою манеру брати стільки, скільки можуть, поки хтось не схопить їх за руку. Ненавиджу драматизувати, але я не думаю, що ми коли-небудь будемо відчувати себе вільними від збору даних. Державне регулювання — єдине, що може зменшити збитки», — заявляє Естес.
Уряд США діє неохоче. У липні 2015 року Електронний інформаційний центр конфіденційності (Electronic Privacy Information Center, EPIC), некомерційна організація, яка захищає «демократичні цінності в цифрову епоху», закликала владу провести розслідування щодо голосових помічників. Поки EPIC не отримала відповідь.
«У цей області ринкові рішення не працюють, тому що компаніям дозволено приховувати недоліки своїх продуктів. Якби ви або я розмістили в чужій хаті пристрій з можливістю перехоплення особистих повідомлень, ми б порушили федеральний закон про прослуховування», — вказує виконавчий директор EPIC Марк Ротенберг.
У липні представник Демократичної партії Сет Моултон продемонстрував закон про автоматичне прослуховування, який пропонує карати компанії, чиї голосові помічники записують розмови без дозволу, але Джилла вважає це досить слабким ходом. В Європі, яка пам’ятає про гіркий досвід масового спостереження при тоталітарних режимах, все суворіше. Нещодавно Google змусили пригальмувати транскрипцію голосових записів в Євросоюзі, в той час як Apple і Facebook одночасно припинили робити це по всьому світу. Amazon ж просто дозволив користувачам відмовитися від прослуховувань їх розмов підрядниками-людьми.
Ніхто з опитаних експертів не користується домашніми голосовими помічниками й не радить їх купувати. Однак всі вони згодні з тим, що цілком можливо розробити пристрій, який буде надавати найпопулярніші послуги й при цьому не порушувати конфіденційність. Якби вся індустрія послідувала прикладу Apple і явно запитувала б дозвіл на запис розмов, це багато в чому змінило б ситуацію. Але, звичайно, рівночасно це викликало б значну втрату монетизованих даних.
БІЛЬШЕ ЦІКАВОГО:
- Що, якби у героїв популярних фільмів був Google Assistant? Відео
- Складнощі розуміння: чому голосові смарт-помічники так важко опановують нові мови
- Alexa, Duplex, Siri та інші: куди рухаються технології голосових помічників?
Джерело: The Guardian