OpenAI знімає гарантії ChatGPT щодо створення зображень

OpenAI запустив новий генератор зображень у ChatGPT, який швидко став вірусним завдяки своїй здатності створювати зображення у стилі Studio Ghibli . Окрім пастельних ілюстрацій, рідний генератор зображень GPT-4o значно покращує можливості ChatGPT, покращуючи редагування зображень, відтворення тексту та просторове представлення.

Однак одна з найпомітніших змін, яку OpenAI зробив цього тижня, стосується політики модерації вмісту, яка тепер дозволяє ChatGPT за запитом створювати зображення публічних діячів, ненависних символів і расових ознак.

Раніше OpenAI відхиляв такі підказки, оскільки вони були надто суперечливими чи шкідливими. Але тепер компанія «розвинула» свій підхід, згідно з публікацією в блозі, опублікованою в четвер керівником OpenAI моделі поведінки Джоан Джанг.

«Ми переходимо від загальних відмов у чутливих сферах до більш точного підходу, зосередженого на запобіганні реальній шкоді», — сказав Джанг. «Мета полягає в тому, щоб прийняти смирення: визнати, скільки ми не знаємо, і позиціонувати себе, щоб адаптуватися, коли ми навчаємося».

Ці коригування, здається, є частиною більшого плану OpenAI щодо ефективної «зняття цензури» ChatGPT . У лютому OpenAI оголосив, що починає змінювати спосіб навчання моделей ШІ з кінцевою метою дозволити ChatGPT обробляти більше запитів, пропонувати різноманітні точки зору та зменшити кількість тем, з якими чат-бот відмовляється працювати.

Відповідно до оновленої політики, ChatGPT тепер може генерувати та змінювати зображення Дональда Трампа, Ілона Маска та інших публічних діячів, які OpenAI раніше не дозволяв. Джанг каже, що OpenAI не хоче бути арбітром статусу, вибираючи, кому можна, а кому ні дозволяти генерувати ChatGPT. Замість цього компанія надає користувачам можливість відмовитися, якщо вони не хочуть, щоб їх зображував ChatGPT.

У офіційному документі, опублікованому у вівторок, OpenAI також заявив, що дозволить користувачам ChatGPT «генерувати ненависні символи», такі як свастики, в освітньому або нейтральному контексті, якщо вони «явно не вихваляють і не схвалюють екстремістські плани».

Крім того, OpenAI змінює спосіб визначення «образливого» контенту. Джанг каже, що ChatGPT раніше відхиляв запити щодо фізичних характеристик, наприклад «зробити очі цієї людини більш азіатськими» або «зробити цю людину важчою». Під час тестування TechCrunch ми виявили, що новий генератор зображень ChatGPT виконує ці типи запитів.

Крім того, ChatGPT тепер може імітувати стилі творчих студій, таких як Pixar або Studio Ghibli, але все ще обмежує імітацію стилів окремих живих художників. Як раніше зазначав TechCrunch, це може перефразувати існуючу дискусію навколо справедливого використання творів, захищених авторським правом, у навчальних наборах даних ШІ .

Варто зазначити, що OpenAI не повністю відкриває шлюзи для зловживання. Власний генератор зображень GPT-4o все ще відмовляється виконувати багато конфіденційних запитів, і насправді він має більше гарантій щодо генерування зображень дітей, ніж DALL-E 3, попередній генератор зображень AI ChatGPT, згідно з офіційним документом GPT-4o .

Але OpenAI пом’якшує свої бар’єри в інших сферах після багатьох консервативних скарг щодо нібито «цензури» ШІ з боку компаній Кремнієвої долини. Раніше Google зіткнувся з негативною реакцією на генератор зображень зі штучним інтелектом Gemini, який створював  мультирасові зображення для  таких запитів, як «батьки-засновники США» та «німецькі солдати у Другій світовій війні», які були явно неточними.

Тепер культурна війна навколо модерації контенту штучного інтелекту може досягти свого піку. Раніше цього місяця конгресмен-республіканець Джим Джордан надіслав запитання до OpenAI, Google та інших технічних гігантів про можливу змову з адміністрацією Байдена щодо цензури створеного ШІ контенту.

У попередній заяві для TechCrunch OpenAI відкинув ідею про те, що зміни модерації контенту були політично мотивованими. Скоріше компанія каже, що зміна відображає «давню віру в надання користувачам більшого контролю», а технологія OpenAI тільки зараз стає достатньо хорошою для навігації по делікатним темам.

Незалежно від його мотивації, це, безумовно, сприятливий час для OpenAI змінити свою політику модерації вмісту, враховуючи потенціал регулятивного контролю за адміністрацією Трампа. Такі гіганти Кремнієвої долини, як Meta та X, також прийняли подібну політику, дозволяючи на своїх платформах розкривати більш суперечливі теми.

Хоча новий генератор зображень OpenAI поки що створив лише кілька вірусних мемів Studio Ghibli, незрозуміло, якими будуть ширші наслідки цих політик. Нещодавні зміни ChatGPT можуть сприйняти адміністрацію Трампа, але дозволити чат-боту зі штучним інтелектом відповідати на делікатні запитання може незабаром поставити OpenAI у гарячу воду.