OpenAI розробляє інструмент для позначення водяними знаками текстів, створених ChatGPT

Якщо компанія випустить інструмент на ринок, з його допомогою можна буде виявляти нечесних студентів, які використовують для своїх робіт ШІ.

OpenAI розробляє технологію, що може дозволити виявляти студентів, які шахруюють, просячи чатбот зі штучним інтелектом ChatGPT виконувати письмові завдання за їхніми текстовими підказками. Компанія поки що оцінює, чи варто виспукати цей інтстумент на ринок, повідомив The Wall Street Journal.

Після публікації WSJ, в якій повідомлено, що згадуваний інструмент може виявляти штучно згенеровані тексти з високим ступенем точності, компанія оприлюднила більше інформації про це.

В оновленні до травневого допису OpenAІ, опублікованому у неділю, зазначено: «Наші команди розробили текстовий метод водяного маркування, який ми продовжуємо розглядати, коли ми досліджуємо альтернативи».

Компанія заявила, що застосування водяних знаків — одне з багатьох можливих рішень, які вивчає компанія, для системи ідентифікаціх походження тексту, на рівні із класифікаторами та метаданими.

Читайте також: OpenAI повідомила про запуск пошукової системи SearchGPT на основі штучного інтелекту

За інформацією OpenAI, у частині випадків інструмент дуже точно виявляв згенеровані тексти, однак «не працює так добре, коли зіштовхується із певними формами підробок», наприклад використання систем перекладу, перероблення згенерованого тексту за допомогою іншої ШІ-моделі, або вимога до чатбота вставляти спеціальний знак між кожним словом, подальшим його видаленням.

З цього погляду, на думку компанії, наразі текстове водяне маркування може «непропорційно впливати на певні групи авторів».

«Наприклад, це може стигматизувати використання штучного інструмента як корисного інструменту для письма для немісцевих англійських авторів», — зазначено у повідомленні.

OpenAI заявила у своєму блозі, що зважує такі ризики.

«Метод текстових водяних знаків, який ми розробляємо, технічно багатообіцяючий, але має значні ризики, які ми зважуємо, поки досліджуємо альтернативи, зокрема сприйнятливість до обходу зловмисниками та потенційний непропорційний вплив на групи, наприклад неангломовні», — повідомив прес-секретар OpenAI у коментарі TechCrunch.

Фото: чатбот ChatGPT на смартфоні / Getty Images

ГО «Детектор медіа» понад 20 років бореться за кращу українську журналістику. Ми стежимо за дотриманням стандартів у медіа. Захищаємо права аудиторії на якісну інформацію. І допомагаємо читачам відрізняти правду від брехні.
До 22-річчя з дня народження видання ми відновлюємо нашу Спільноту! Це коло активних людей, які хочуть та можуть фінансово підтримати наше видання, долучитися до генерування ідей та створення якісних матеріалів, просувати свідоме медіаспоживання і разом протистояти російській дезінформації.