ChatGPT незабаром дозволить еротику для дорослих користувачів

Генеральний директор OpenAI Сем Альтман оголосив у своєму дописі, що компанія незабаром послабить деякі обмеження безпеки ChatGPT, що дозволить користувачам зробити відповіді чат-бота дружнішими або більш «людськими», а «перевіреним дорослим» – брати участь в еротичних розмовах.

«Ми зробили ChatGPT досить обмежувальним, щоб бути обережними з проблемами психічного здоров’я. Ми розуміємо, що це зробило його менш корисним/приємним для багатьох користувачів, які не мали проблем з психічним здоров’ям, але враховуючи серйозність проблеми, ми хотіли все виправити», – сказав Альтман. «У грудні, коли ми повніше впровадимо вікові обмеження та в рамках нашого принципу «стався до дорослих користувачів як до дорослих», ми дозволимо ще більше, наприклад, еротику для перевірених дорослих».

Ця заява є помітним поворотним моментом у багатомісячних зусиллях OpenAI, спрямованих на вирішення тривожних стосунків, які виникли у деяких психічно нестабільних користувачів з ChatGPT. Альтман, видається, заявляє про швидку перемогу над цими проблемами, стверджуючи, що OpenAI «зміг пом'якшити серйозні проблеми психічного здоров'я» пов'язані з ChatGPT. Однак компанія надала мало або взагалі не надала доказів цього, і тепер активно реалізує плани щодо участі ChatGPT у сексуальних чатах з користувачами.

Цього літа з'явилося кілька тривожних історій навколо ChatGPT, зокрема його моделі GPT-4o, які натякали на те, що чат-бот зі штучним інтелектом може завести вразливих користувачів у маячні кролячі нори. В одному випадку ChatGPT, здається, переконав чоловіка, що він математичний геній , якому потрібно врятувати світ. В іншому випадку батьки підлітка подали до суду на OpenAI , стверджуючи, що ChatGPT заохочував суїцидальні думки їхнього сина протягом тижнів, що передували його смерті.

У відповідь OpenAI випустила низку функцій безпеки для боротьби з підлабузництвом ШІ: схильністю чат-бота на базі ШІ переманювати користувачів, погоджуючись з усім, що вони кажуть, навіть з негативною поведінкою.

У серпні OpenAI запустила GPT-5 , нову модель штучного інтелекту, яка демонструє нижчий рівень підлабузництва та оснащена маршрутизатором, який може ідентифікувати тривожну поведінку користувачів. Через місяць OpenAI запустила функції безпеки для неповнолітніх, включаючи систему прогнозування віку та спосіб для батьків контролювати обліковий запис ChatGPT своїх підлітків. У вівторок OpenAI оголосила про створення експертної ради фахівців з психічного здоров'я, яка консультуватиме компанію з питань благополуччя та штучного інтелекту.

Лише через кілька місяців після появи цих тривожних історій, OpenAI, виглядає, вважає, що проблеми ChatGPT щодо вразливих користувачів під контролем. Незрозуміло, чи користувачі все ще потрапляють у марення з GPT-5. І хоча GPT-4o більше не є стандартним у ChatGPT, модель штучного інтелекту все ще доступна сьогодні та використовується тисячами людей.

Впровадження еротики в ChatGPT є незвіданою територією для OpenAI та викликає ширші занепокоєння щодо того, як вразливі користувачі взаємодіятимуть з новими функціями. Хоча Альтман наполягає на тому, що OpenAI не «максимізує використання» та не оптимізує взаємодію, збільшення еротичності ChatGPT, безумовно, може залучити користувачів.

Дозвіл чат-ботам брати участь у романтичних або еротичних рольових іграх був ефективною стратегією залучення для інших постачальників чат-ботів зі штучним інтелектом, таких як Character.AI. Компанія залучила десятки мільйонів користувачів, багато з яких використовують її чат-боти з високою швидкістю. Character.AI заявила у 2023 році, що користувачі витрачали в середньому дві години на день на розмови з її чат-ботами. Компанія також зіткнулася з позовом щодо того, як вона поводиться з вразливими користувачами.

OpenAI перебуває під тиском, щоб розширити свою базу користувачів. Хоча ChatGPT вже використовують 800 мільйонів активних користувачів щотижня, OpenAI змагається з Google та Meta у створенні масово впроваджених споживчих продуктів на базі штучного інтелекту. Компанія також залучила мільярди доларів на історичне будівництво інфраструктури, інвестиції, які OpenAI зрештою має повернути.

Хоча дорослі, безумовно, мають романтичні стосунки з чат-ботами на базі штучного інтелекту , це також досить популярно серед неповнолітніх. Новий звіт Центру демократії та технологій показав, що 19% учнів старших класів або мали романтичні стосунки з чат-ботом на базі штучного інтелекту, або знають друга, який мав такі стосунки.

Альтман каже, що OpenAI незабаром дозволить еротику для «перевірених дорослих». Речник OpenAI повідомив TechCrunch, що компанія покладатиметься на систему прогнозування віку, яку вона створює, щоб гарантувати, що еротичні функції ChatGPT будуть доступні лише дорослим користувачам.

Як раніше писав Альтман у своєму блозі, якщо система прогнозування віку OpenAI помилково позначає дорослу особу як неповнолітню, користувачам ChatGPT, можливо, доведеться завантажити фотографію свого посвідчення особи державного зразка в ChatGPT, щоб виправити це. Альтман пише, що, хоча це компроміс щодо конфіденційності, компанія вважає це «гідним компромісом».

Незрозуміло, чи поширить OpenAI еротику на свої інструменти для створення голосу, зображень та відео на основі штучного інтелекту.

Альтман стверджує, що OpenAI також робить ChatGPT дружнішим та еротичнішим завдяки принципу компанії «стався до дорослих користувачів як до дорослих». Протягом останнього року OpenAI перейшла до більш поблажливої ​​стратегії модерації контенту для ChatGPT, що дозволило чат-боту бути більш поблажливим та пропонувати менше відмов. У лютому OpenAI зобов'язалася представляти більше політичних поглядів у ChatGPT, а в березні компанія оновила ChatGPT, щоб дозволити зображення символів ненависті, згенеровані штучним інтелектом .

Ця політика, схоже, є спробою зробити відповідь ChatGPT більш популярною серед широкого кола користувачів. Однак вразливі користувачі ChatGPT можуть скористатися запобіжними заходами, які обмежують те, з чим може взаємодіяти чат-бот. Оскільки OpenAI прагне досягти мільярда активних користувачів щотижня, напруженість між зростанням та захистом вразливих користувачів може лише зростати.