ChatGPT став безпечнішим для дітей: як працюють нові функції захисту OpenAI

Компанія OpenAI представила функцію батьківського контролю для свого чат-бота ChatGPT. Це нововведення, яке анонсували ще деякий час тому, дозволить батькам та підліткам зв'язувати свої акаунти для посилення заходів безпеки та встановлення обмежень, які підходять для родини. Функція вже почала поширюватися серед користувачів.

Як працюватимуть нові інструменти для батьків?

Система контролю надає батькам низку інструментів для налаштування взаємодії їхніх дітей із чат-ботом, при цьому зберігаючи конфіденційність підлітків. Щоб активувати функцію, один з батьків або підліток має надіслати запрошення для об’єднання акаунтів. Інша сторона повинна його прийняти. Якщо підліток вирішить від’єднати свій обліковий запис, батьки отримають про це сповіщення, пише 24 Канал з посиланням на офіційне оголошення OpenAI.

Після зв'язування акаунтів батьки отримують доступ до панелі керування з кількома ключовими налаштуваннями:

• Обмеження чутливого контенту. Ця опція увімкнена за замовчуванням і застосовує додаткові фільтри для захисту підлітків від потенційно шкідливої інформації, наприклад, графічних матеріалів або небезпечних вірусних трендів.
• Керування пам'яттю. Батьки можуть вирішувати, чи буде ChatGPT запам'ятовувати попередні розмови для надання більш персоналізованих відповідей у майбутньому.
• Навчання моделі. Ця функція дозволяє контролювати, чи можуть розмови підлітка використовуватися для подальшого вдосконалення мовних моделей OpenAI.
• Тихі години. Батьки можуть встановити конкретні проміжки часу, протягом яких підліток не зможе користуватися чат-ботом.
• Голосовий режим. За потреби можна повністю вимкнути доступ до функції голосового спілкування.
• Генерація зображень. Цей інструмент дозволяє заборонити створення або редагування зображень за допомогою ChatGPT.

Як усе це допоможе усунути першопричину того, чому взагалі з'явився батьківський контроль, незрозуміло. Нагадаємо, компанія вперше задумалась про впровадження цих функцій після того, як на неї подали до суду через самогубство підлітка. Батьки, які виступають позивачами, кажуть, що їхній син тривалий час спілкувався зі штучним інтелектом і питав у нього поради щодо способів самогубства. Спочатку ШІ відмовив, але тоді користувач обманув його, сказавши, що насправді не збирається нічого подібного робити, а лише збирає інформацію для свого вигаданого художнього сюжету.

Усі ці функції наразі не виглядають як такі, що можуть перешкодити повторенню ситуації з самогубством. Натомість єдине дієве нововведення стосується іншого аспекту роботи ШІ.

Що з конфіденційністю?

Один із найважливіших аспектів нововведення – конфіденційність. Батьки не матимуть прямого доступу до історії розмов своїх дітей. Виняток становлять лише рідкісні випадки, коли автоматизовані системи та модератори виявлять ознаки серйозного ризику для безпеки підлітка, пише The Wall Street Journal. У такій ситуації батьків можуть сповістити, надавши лише ту інформацію, яка необхідна для захисту дитини.

Це дійсно могло б завадити трагедії, якщо батьки вчасно отримають інформацію про те, що їхня дитина обговорює з чат-ботом суїцидальні думки чи наміри, повідомляє про депресію, шукає підказки про конкретні шкідливі дії тощо.

У компанії зазначили, що розробка цих функцій велася у тісній співпраці з експертами, правозахисними групами й політиками. OpenAI також запустила спеціальну сторінку з ресурсами, щоб допомогти батькам краще зрозуміти принципи роботи ChatGPT і правильно налаштувати його для використання вдома. Очікується, що з часом набір інструментів контролю буде розширюватися та вдосконалюватися.

Як налаштувати батьківський контроль у ChatGPT?

Хоча нові функції ще не для всіх доступні (спочатку вони запускаються у вебверсії, а для смартфонів будуть доступні пізніше), ось як їх підключити, коли вони з'являться у вашому обліковому записі:

• У налаштуваннях ChatGPT перейдіть до розділу "Батьківський контроль" або відвідайте chatgpt.com/parentalcontrols.
• Запросіть підлітка підключитися за допомогою електронної пошти або SMS.
• Коли підліток прийме запрошення і ваші облікові записи будуть пов'язані, ви зможете налаштувати його параметри зі свого облікового запису за допомогою простих перемикачів, які вмикають або вимикають функції.
• Підлітки можуть від'єднати облікові записи в будь-який час, але батьки отримають повідомлення, якщо облікові записи більше не будуть пов'язані.
• Якщо відбувається підозрілий інцидент, батьки отримують "Сповіщення безпеки", яке повідомляє про "виявлення серйозних проблем".