«Вікіпедія» обмежила переклади статей за допомогою ШІ через помилки в матеріалах

Редактори «Вікіпедії» запровадили нові правила та обмежили діяльність низки авторів, яким платили за ШІ-переклад наявних статей різними мовами. З'ясувалося, що через ці переклади у статтях зʼявлялися помилки, відомі як «галюцинації» штучного інтелекту. Про це пише 404 Media.

Зауваження виникли до роботи організації «Асоціація відкритих знань» (Open Knowledge Association, OKA), яка займається покращенням «Вікіпедії» та інших відкритих платформ і надає щомісячні виплати авторам і перекладачам, які працюють на повну зайнятість.

Організація каже, що використовує штучний інтелект для «автоматизації більшої частини роботи». Однак редактори платформи почали помічати, що деякі з перекладів OKA містять помилки у статтях.

«Щоб виміряти рівень помилок, я вирішив провести вибіркову перевірку перших кількох перекладів у переліку і вже помітив там кілька помилок, тож справа не лише в окремих випадках. У деяких статтях було замінено джерела або додано речення без посилань та без жодних пояснень», – розповів редактор «Вікіпедії» Ільяс Лебле.

Як приклад він навів статтю про вибори до Сенату Франції 1879 року, в яку були додані абзаци з матеріалів, абсолютно не пов'язаних з написаним. Подальший аналіз статей OKA виявив ще більше проблем.

Редактори «Вікіпедії» зʼясували, що організація здебільшого покладається на «дешеву робочу силу підрядників з країн Глобального Півдня», яким доручає копіювати / вставляти статті до популярних великих мовних моделей (LLM) для створення перекладів. 

Публічна електронна таблиця свідчить про те, що для роботи перекладачі OKA використовують Gemini та ChatGPT. Раніше для перекладів також використовувався чатбот Ілона Маска Grok, але дослідження показали, що він не такий точний, як інші моделі.

Зрештою, редактори «Вікіпедії» вирішили запровадити обмеження для перекладачів OKA, які допускають численні помилки, але не блокувати всі переклади організації. Перекладачі OKA, які протягом шести місяців отримали чотири попередження про неналежний контент, будуть одразу заблоковані, якщо знайдеться ще один приклад.

Open Knowledge Association пропонує своїм перекладачам 397 доларів (приблизно 17 тис. грн) на місяць за роботу до 40 годин на тиждень. У оголошенні про вакансію також йдеться про «5-20 статей на тиждень (залежно від розміру)». 

Водночас організація стверджує, що робить акцент на якості, а не на швидкості. Вона також повідомила, що зараз впроваджує в роботу другий етап перевірки статей за допомогою LLM, який має допомогти виявити потенційні помилки в матеріалах.

Нагадаємо, у червні минулого року «Вікіпедія» призупинила ШІ-підсумовування статей після протесту редакторів, які стверджували, що подібна функція може завдати «негайної та незворотної шкоди» як читачам, так і самій платформі.

Фото: Unsplash