Instagram планує використовувати штучний інтелект, щоб ловити підлітків на брехні про їхній вік

Компанія Meta Platforms Inc. , яку критикують батьки та законодавці через вплив на психічне здоров’я підлітків, планує використовувати штучний інтелект, щоб ідентифікувати молодих користувачів Instagram, які брешуть про свій вік, і автоматично перемикати їх у більш обмежувальні налаштування конфіденційності.

За допомогою фірмового програмного інструменту, який він називає «класифікатором для дорослих», Meta класифікуватиме користувачів за двома віковими категоріями — старше або молодше 18 років — на основі даних облікового запису людини, за словами Аллісон Хартнетт, директора Meta з управління продуктами для молоді та соціальних мереж. вплив. Програмне забезпечення може переглядати профіль користувача, переглядати список його підписників і вміст, з яким вони взаємодіють, і навіть сканувати нічого не підозрілі пости «з днем ​​народження», зроблені друзями, щоб передбачити вік користувача.

Виходячи з висновків програмного забезпечення, люди, яким підозрюється, що їм ще не виповнилося 18 років, будуть автоматично розміщені в підліткових облікових записах, незалежно від того, скільки років вони стверджують у своєму профілі, сказав Хартнетт, вперше поділившись більш детальною інформацією про процес. У вересні Instagram представив ці нові підліткові облікові записи , які мають суворіші параметри конфіденційності за замовчуванням, як-от обмеження того, від кого користувач може отримувати повідомлення та який тип вмісту він може переглядати. Компанія не розкриває, наскільки точним є класифікатор для дорослих.

Компанія вже переміщує підлітків у ці більш обмежувальні налаштування на основі їхнього дня народження, але планує використовувати класифікатор для дорослих на початку наступного року, щоб допомогти зловити людей, які, можливо, намагаються обійти нові правила. Усі користувачі віком до 18 років будуть автоматично переведені в підліткові облікові записи, але тим, кому виповнилося 16 або 17 років, буде дозволено самостійно змінювати більш обмежувальні налаштування конфіденційності. Проте особам молодше 16 років потрібна згода батьків, щоб вимкнути більш обмежувальні налаштування.

Належний захист користувачів-підлітків від шкідливого вмісту був проблемою для Meta протягом багатьох років. Рух компанії до підліткових облікових записів був схвалений аутсайдерами, які давно стверджували, що Meta робить недостатньо для безпеки молодших користувачів в Інтернеті.

Гігант соціальних мереж зіткнувся з позовом від десятків генеральних прокурорів штату, які стверджують, що компанія свідомо підключила дітей до соціальних мереж і допомогла створити кризу психічного здоров’я підлітків. Він також став мішенню для батьків, які стверджують, що їхні підлітки померли від наркотиків або покінчили життя самогубством через вміст, який вони бачили, або розмови, які вони вели за допомогою продуктів Meta.

У 2021 році співробітниця Facebook, яка стала інформатором, Френсіс Хауген оприлюднила ЗМІ тисячі сторінок документів, які показали, що, серед іншого, власне дослідження компанії виявило, що Instagram може мати негативний вплив на психічне здоров’я дівчат-підлітків.

Із запровадженням нових обмежень завдання Meta тепер полягає в тому, щоб забезпечити їх дотримання — завдання не з легких, враховуючи, що діти часто знаходять обхідні шляхи, щоб отримати доступ до матеріалів з віковими обмеженнями. Дослідження телекомунікаційного регулятора Великобританії показало, що третина неповнолітніх, які мають облікові записи в соціальних мережах, заявляють, що їм виповнилося 18 років.

На багатьох сайтах в Інтернеті збрехати про свій вік надзвичайно просто. Steam, онлайновий ринок відеоігор, просто просить користувачів самостійно вказати дату народження перед переглядом і завантаженням гри з рейтингом для дорослих. Інші сайти, які продають алкоголь, наприклад, просто просять користувачів натиснути кнопку, підтверджуючи, що їм більше 21 року.

Meta прагне зробити так, щоб було набагато складніше брехати про свій вік в Instagram. Наприклад, компанія позначатиме підлітків, які намагатимуться створити новий обліковий запис, використовуючи ту саму адресу електронної пошти, але з іншою датою народження. Компанія також може перевірити унікальний ідентифікатор пристрою телефону, щоб здогадатися, хто стоїть за новим профілем.