Нові пристрої зі штучним інтелектом можуть наражати користувачів на небезпеку

 Тип взаємодії, на який користувачі все частіше орієнтуються, оскільки все більше технологічних компаній впроваджують пристрої та функції на базі штучного інтелекту з функцією постійного прослуховування, які рекламуються як корисні інструменти для транскрибування зустрічей, відстеження розмов, встановлення нагадувань та надання персоналізованих рекомендацій. 

Найновіший зразок цих гаджетів з’явився у четвер – це носимий пристрій Bee Frontier від Amazon та Bee Eclipse – пристрій у формі картки, який підключається до смартфона. Обидва пристрої призначені для запису, транскрипції та аналізу даних про день користувача.

Найновіший годинник Apple Watch Series 12, представлений у вересні, матиме функцію Siri Recap, яка «в режимі навколишнього середовища» робить нотатки протягом дня та генерує короткий виклад розмов. Ще одна функція під назвою Live Rewind може відтворювати 15 секунд розмови за допомогою текстової транскрипції.  

Популярні розумні окуляри Meta можуть робити фотографії, записувати відео та голосові нотатки чи нагадування. Стартапи, такі як Plaud та Pocket, також розробили пристрої для нотаток розміром з картку, а Friend пропонує намисто зі штучним інтелектом. 

Ці пристрої викликали побоювання, що вони можуть порушити конфіденційність, дозволяючи прихований запис без отримання згоди перехожих та збираючи конфіденційні дані, які потенційно доступні іншим особам. 

Amazon, Google та інші виробники розумних колонок з голосовим керуванням зіткнулися з аналогічними проблемами конфіденційності, коли їхні пристрої вперше з’явилися на ринку, що в деяких випадках призводило до судових позовів та штрафів від регуляторних органів. 

Але це нове покоління пристроїв зі штучним інтелектом також випробовує межі закону про конфіденційність.

На відміну від попередніх розумних колонок, які активувалися за допомогою так званого «слова пробудження» та іноді зберігали записи або надсилали аудіо в хмару, деякі з цих продуктів можуть безперервно прослуховувати, інтерпретувати мову та витягувати її значення, не зберігаючи вихідний звук. Ця можливість викликала значною мірою неперевірене питання про те, чи може сама така обробка вважатися незаконним перехопленням.

«З такими новими технологіями я завжди стверджую, що їх слід сприймати з обережністю», – сказала Карен Панетта, декан аспірантури Інженерної школи Тафтса та науковий співробітник Інституту інженерів з електротехніки та електроніки. 

Вона додала: «Якщо я даю дозвіл на запис мого відеозйомки або на запис усього, що я дивлюся, це не означає, що всі інші навколо мене дали таку згоду».

Схоже, Apple та Amazon обійшли деякі проблеми конфіденційності, які переслідували попередні голосові асистенти. 

Apple стверджує, що ця функція не зберігає аудіо, не надсилає записи на свої сервери та не передбачає перевірки людиною. Amazon заявила, що не зберігає аудіо з пристроїв Bee, а розмови обробляються в безпечному середовищі, «де ніхто, включаючи Amazon, не може отримати доступ до ваших даних». 

Але це може не вирішити юридичне питання.

Багато законів штатів про прослуховування та підслуховування написані з урахуванням того, чи було перехоплено приватне повідомлення, чи було отримано його вміст, а не просто чи було створено звичайний аудіозапис.

Колін Зік, адвокат з питань конфіденційності та безпеки даних у Foley Hoag, сказав, що Apple, схоже, винесла урок з першої хвилі судових позовів щодо голосових помічників. Але нова технологія ставить питання, на які попередні справи так і не мали відповідей: чи може система, яка постійно прослуховує, інтерпретує мовлення та перетворює його на короткий виклад, вважатися перехопленням, якщо вона ніколи не зберігає вихідний звук?

Деякі закони штатів визначають перехоплення в широкому сенсі. Наприклад, у штаті Массачусетс перехоплювальний пристрій визначається як обладнання, здатне «передавати, приймати, підсилювати або записувати» повідомлення, тоді як «зміст» повідомлення може включати його суть та значення. 

На думку Зіка, пристрій, який безперервно приймає мовлення та створює письмовий виклад, потенційно може підпадати під цю мову навіть без збереження аудіофайлу.

А в деяких штатах більший юридичний ризик може покладатися не на Apple, Amazon чи інших виробників гаджетів зі штучним інтелектом, а на особу, яка носить цей пристрій.

«Клієнт, який не користується годинником, не купував його, не погоджувався з умовами Apple і не хотів, щоб його розмова була записана в додатку», – сказав Зік.

Деніел Пі, доцент юридичної школи Франкліна Пірса Університету Нью-Гемпшира, заявив, що закон Нью-Гемпшира є достатньо широким, щоб, на його думку, нові функції аудіорозвідки Watch можна було б кваліфікувати як перехоплення. Закон охоплює не лише записи, а й «слухове чи інше отримання» змісту повідомлення.

Це може створити незвичайну ситуацію, коли звичайний споживач вмикає функцію, вбудовану в звичайний пристрій, і, принаймні технічно, порушує закон штату, використовуючи її під час приватної розмови без згоди всіх.

Пі сказав, що користувач у Нью-Гемпширі потенційно може бути притягнутий до цивільної або кримінальної відповідальності за такі дії, хоча він наголосив, що практичний ризик судового переслідування набагато нижчий. Може бути важко визначити, чи була у когось ця функція ввімкнена з самого початку, і він сказав, що був би здивований, якби прокурори порушували справи, пов’язані з очевидним порушенням закону, де нікому не було завдано шкоди.

Юридичні питання також відрізняються від тих, що порушувалися щодо попередніх розумних колонок та голосових помічників. Ці справи часто стосувалися пристроїв, які помилково активували або фіксували мовлення, яке не було задумано як команда. Тут ця функція призначена для отримання та інтерпретації суті розмови, а користувач навмисно погодився на це.

Це змінює аналіз, сказав Пі, і також може перекласти відповідальність на того, хто його використовує, а не на саму технологічну компанію.

Ширша проблема конфіденційності виходить за рамки того, хто несе юридичну відповідальність.

Майкл Стокс, колишній офіцер ЦРУ та старший віцепрезидент з нових технологій у Veilant, сказав, що головнішим зрушенням є те, що люди можуть бути залучені до спостереження за допомогою штучного інтелекту, не володіючи пристроєм, який здійснює збір даних, і не взаємодіючи з ним свідомо.

«Я думаю, що проблема свідків — це справжнє занепокоєння, яке мене хвилює: за вами можуть стежити, навіть якщо ви не володієте технологією», — сказав Стокс.

Він вказав на зростання кількості камер, мікрофонів та датчиків, вбудованих у споживчі пристрої, від розумних окулярів до годинників та диктофонів зі штучним інтелектом. Різниця зараз, за ​​його словами, полягає в тому, що штучний інтелект може швидко інтерпретувати те, що збирають ці пристрої, та знаходити сенс у набагато більших обсягах інформації, ніж попередні покоління споживчих технологій.

Для Стоукса це робить Apple Watch частиною набагато масштабніших змін у сфері конфіденційності. Під час своєї роботи в ЦРУ він допоміг розробити концепцію повсюдного технічного спостереження, описавши світ, у якому повсякденні пристрої постійно генерують інформацію, яка може розкрити особи, місцезнаходження та зв’язки. 

За його словами, проблема не лише в тому, що можна зібрати більше даних, а й у тому, що вартість їх осмислення різко впала.

У минулому, за словами Стокса, збір розвідувальних даних міг вимагати тисяч годин роботи для збору, сортування та аналізу інформації про людину. Штучний інтелект дедалі більше автоматизує цей процес, що робить дешевшим та простішим вилучення корисної інформації з даних, які могли бути зібрані випадково.

Це створює новий вид впливу для людей, які ніколи не користувалися цією технологією — чи то приватна розмова, записана сусіднім портативним пристроєм, чи інформація, зібрана пристроєм, яким вони не володіють.

«У нас більше немає цих маленьких куточків приватності, як ми думали раніше», – сказав Стокс.

Аїда Барадарі, засновниця стартапу Deveillance , намагається повернути певний контроль людям, які бояться бути записаними без їхньої згоди.

Компанія створила гаджет у формі хокейної шайби під назвою Spectre I, який використовує штучний інтелект для сканування пристроїв поблизу та надсилає «сигнали ворожості», що спотворюють мову людини, перш ніж мікрофони зможуть її обробити.

Барадарі сказала, що спостерігала за появою на ринку дедалі більшої кількості носимих пристроїв зі штучним інтелектом, і вважала, що користувачі повинні мати більше права голосу у тому, як вони з ними взаємодіють.

«Нам потрібно мати змогу використовувати технології, не відмовляючись від наших основних цінностей чи прав», – сказала вона.