Запити багатьох людей до ШІ потрапили у відкритий доступ: у чому була їхня помилка

Витік, імовірно, стався через погано продуманий дизайн додатка, вважають у TechCrunch. Деякі користувачі навіть не підозрювали, що публікують свої листування, голосові повідомлення і згенеровані зображення в загальний доступ.

Річ у тім, що в Meta AI є стрічка Discover, куди можна викласти своє листування з чат-ботом. Коли ви ставите запитання, у вас є можливість натиснути кнопку "Поділитися", яка потім спрямовує вас на екран із попереднім переглядом поста.

Багато користувачів просто не розуміли, що публікують листування у стрічку, а не зберігають собі в обране або в закладки. Якщо людина заходила в Meta AI через Instagram, і її акаунт у цій соцмережі був публічним, то її запити також ставали публічними.

"Meta не пояснює користувачам, які в них налаштування конфіденційності, коли вони публікують, або навіть куди вони публікують", — зазначили експерти видання.

Таким чином у Discover можна було побачити, як люди просили ШІ допомогти з ухиленням від сплати податків, запитували чи заарештують їхніх родичів за причетність до злочинів у сфері шахрайства або як написати рекомендаційний лист для співробітника, який зіткнувся з юридичними проблемами, із зазначенням імені та прізвища цієї людини.

Зі свого боку BBC виявила прохання показати жінок і антропоморфних тварин, на яких було дуже мало одягу. Люди також завантажували фотографії запитань шкільних або університетських тестів з метою отримати відповіді.

Нагадаємо, дослідники виявили, що групи моделей штучного інтелекту LLM, найвідомішою з яких сьогодні є ChatGPT, можуть спонтанно "вигадувати" свої соціальні норми та мову без людини.