"Патріотичні" аватарки у Facebook робив російський додаток: куди йдуть ваші фото

Те, що ви довіряєте чат-ботам і фільтрам для фото, може виявитися чужим - і не лише для творців цих сервісів. Старша юристка Лабораторії цифрової безпеки Тетяна Авдєєва у двадцять третьому епізоді другого сезону правозахисного подкасту «Я чую інших» на Громадському радіо пояснила, як звичайне завантаження фото чи документа у застосунок зі штучним інтелектом перетворюється на ризик витоку персональних даних.

Які дані осідають на серверах розробників

Найбільша небезпека для пересічного користувача - завантаження конфіденційної інформації в системи загального доступу, такі як ChatGPT. На відміну від локальних програм, які навчаються лише на вашому пристрої та тримають дані на ньому, загальнодоступні сервіси, найімовірніше, зберігають усе завантажене на серверах розробників.

«У разі хакерської атаки чи системного збою завжди існує ризик того, що ця інформація опиниться в чиїхось руках - можливо, просто інших пересічних користувачів (що менш небезпечно), а можливо, і в зловмисників», - пояснює Авдєєва.

За її словами, зловмисники можуть цілеспрямовано полювати на дані правозахисників, журналістів чи активістів. Саме тому фахівчиня радить діяти за презумпцією: будь-яка інформація, завантажена онлайн, потенційно може витекти.

Вірусний фототренд виявився російським додатком

Окремо юристка згадала масовий тренд в аватарках: портрети людей у військовій формі, вишиванках, з прапорами чи віночками на голові заполонили стрічку Facebook. Коли Авдєєва вирішила з'ясувати, яким інструментом їх створюють, виявилося, що додаток має російське походження.

При цьому агресивна реклама цього сервісу у Facebook не викликала у більшості сумнівів: користувачі охоче завантажували власні фотографії, не перевіряючи, хто стоїть за додатком і куди йдуть їхні знімки. Це класична схема збору персональних даних під виглядом розваги.

Хто відповідає, коли ШІ помиляється

На відміну від дискримінації чи витоків - проблем, які просто «перекочовують» у набори даних, - принципово новим ризиком Авдєєва називає питання відповідальності. Якщо ШІ використовують лише як інструмент і людина перевіряє результат, відповідальність зрозуміла. Але у випадку повністю автономних рішень виникає правова невизначеність.

«Якщо стається помилка, хоча розробник надає звіти про успішне проходження всіх перевірок, а ШІ раптово дав збій, згенерував галюцинацію, когось дискримінував або допустив витік даних - хто саме має відповідати?» - пояснює вона. Наразі міжнародне регулювання не має вичерпної відповіді.

Які дані не можна завантажувати в ШІ

Під час тренінгів для громадського сектору та медіа Авдєєва радить триматися простого правила: усе, що завантажується в мережу, може стати публічним. У список того, що варто тримати подалі від чат-ботів та онлайн-фільтрів, вона зараховує:

• інтимні фотографії, які надсилають партнерам;
• конфіденційні договори з постачальниками;
• робочі матеріали журналістів-розслідувачів;
• паспортні та фінансові дані;
• документи правозахисників та активістів.

Юристка, яка до того ж бере участь у розробці українського законопроєкту про регулювання штучного інтелекту, наголошує: завжди перевіряйте результати роботи ШІ і не використовуйте його для ухвалення фінальних рішень.