Як штучний інтелект спотворює історію

Ідея цього тексту виникла, коли в інтернеті трапилося колоризоване зображення першої «фотографії» в історії — геліогравюри «Вид з вікна в Ле Гра» (Point de vue du Gras) французького винахідника Жозефа Нісефора Ньєпса.

Він створив її у 1826 році (за іншим даними, в 1827 році) на пластинці, вкритою шаром бітуму, використавши камеру-обскуру. На «фото» зображено дахи та краєвид із майстерні Ньєпса у Франції. Звісно, хтось вирішив колоризувати та «покращити» це зображення за допомогою штучного інтелекту. Ось як це вийшло:

Навіть при побіжному розгляді видно, що штучний інтелект не «розфарбував» світлину, а змінив її, додавши елементи, яких не було, й прибравши незрозуміле йому.  Мені стало цікаво, наскільки генеративний ШІ здатен зберігати світлини, не «вдосконалюючи» та перероблюючи їх під час такого процесу.

Ось, наприклад, зверніть увагу на світлину з урочистої присяги на вірність УНР у Кам’янці-Подільському 14 жовтня 1919 року, після Злуки УНР і ЗУНР, чию річницю ми відзначали 22 січня. На цій фотографії праворуч і ліворуч майорять жовто-блакитні прапори.

А ось як цю фотографію «колоризував» штучний інтелект (модель Gemini, яку часто використовують з цією метою, промпт «колоризуй це фото»). Зверніть увагу на розташування кольорових смуг на прапорах праворуч і ліворуч:

ШІ не лише переплутав смуги, а й домалював ще й інші деталі, які ви можете й самі тут пошукати. Наприклад, розвернув людей ліворуч від трибуни обличчями до глядача. Таким чином, про жодну документальність чи автентичність цього «колоризованого» фото вже не йдеться. Ось варіант, зроблений не Gemini, а Chat GPT, промпт аналогічний:

Тут зі смугами наче все гаразд, вони принаймні однакові, проте з’явився хлопчик на передньому плані, змінилися корогви та постави й обличчя людей.

На перший погляд, така «колоризація» старих фото генеративним ШІ, який ми найчастіше і використовуємо, здається нешкідливою й кумедною — «оживили» минуле, зробили його ближчим і привабливішим. Але якщо такі зображення публікують без підпису, що це реконструкція або AI-обробка, виникає низка реальних небезпек — історичних, етичних і навіть політичних. Наприклад, як у цьому випадку, можна легко поширювати міфи про те, яким був правильний порядок смуг на прапорі України чи яким він узагалі був.

Інший дослід стосувався більш пізньої фотографії — зображення Софійської площі в Києві з моєї власної колекції старих фото. Ось воно:

А ось як його «колоризував» ШІ (та ж модель Gemini, той же промпт). Зверніть увагу на колір куполів (хоч він мав би знати, що вони насправді зелені):

Це схоже на гру «знайди різницю». Така «колоризація» з допомогою масово доступного генеративного штучного інтелекту — це крок до генерації по суті фейкових історичних зображень. Під виглядом «відновлених фото» можуть поширюватися підробки, що підкріплюють потрібну політичну чи національну ідеологію, міфи про «світле» (чи не дуже) минуле, стан будівель чи особливості архітектури.

Таким чином, навіть ці три світлини демонструють, що при так званій «колоризації» найпоширеніші моделі генеративного ШІ не просто розфарбовують фотографію, а змінюють деталі, не вгадують із кольорами або передають їх неприродно.

При цьому маємо чітко зазначити: йдеться саме про поширені моделі генеративного ШІ, які користувачі застосовують для колоризації, але які створені для інших завдань. Існують спеціалізовані інструменти колоризації — DeOldify, Colorize.sg, MyHeritage, Palette.fm — натреновані саме на додавання кольору до чорно-білих фото.

Вони також не можуть знати справжніх історичних кольорів і теж угадують їх за шаблонами, але їхня архітектура зосереджена на збереженні оригінальної композиції та деталей, а не на генерації нового контенту. Проте й вони не є джерелом історичної істини. Ось, наприклад, результат колоризації згаданого вище фото присяги в сервісі DeOldify:

Тут бачимо набагато меншу «креативність» ШІ, меншу творчість у плані деталей, відсутність артефактів, але модель так само «не знає», якими були оригінальні кольори.

Чому ж так відбувається, незалежно від обраної моделі генеративного ШІ? Річ у тім, що вони не «обробляють» фото за завданням. Вони фактично створюють нове. Їх навчали на аналогіях: модель вивчала, які кольори зазвичай відповідають певним об’єктам, текстурам, освітленню.

Тобто генеративний ШІ не знає, якими були справжні кольори. Він лише «вгадує» на основі тренувальних даних, що ось цьому відтінку сірого може відповідати ось такий реальний колір, а цей елемент зазвичай має ось такий відтінок. Звісно, що, наприклад, колір військової форми, прапора, шкіри, стіни, орнаменту чи предметів може бути змінений довільно й не відповідати реальному.

Навіть із сучасною фотографією, де ми знаємо справжні кольори, генеративний ШІ змінює їх довільно. Щоб показати, що це відбувається повсякчас і просто закладене в алгоритми генеративного ШІ, я спробував обробити таким чином сучасну фотографію — полтавського Краєзнавчого музею, де на стіні зображені герби міст Полтавщини. Ось оригінал фото:

Перетворимо його в чорно-біле та попросимо ШІ колоризувати (такий же промпт):

Результат показує зміни в кольорах гербів на стіні між першим і другим поверхом, машини, даху й навіть банального знаку на парковці — навіть там, де модель могла мати аналогічні зображення в тренувальних даних.

Без підпису таке «фото» (по суті, ми вже говоримо не про фото, а про згенероване наново зображення) сприймають як справжнє, і це змінює сприйняття і сучасності, як тут, і історичних подій або персон, як у прикладах вище.

Вихід — авторам чітко розрізняти «творчість» генеративного ШІ та реальні історичні фото, підписуючи, що це фото змінене, а не «колоризоване» поширеними моделями, й обов’язково зазначаючи втручання штучного інтелекту й назву інструменту, щоб було зрозуміло, який алгоритм застосовувався.

Користувачам завжди варто шукати джерело оригінального фото й звертати увагу на маркування. Слід ставитися до таких «відновлених» фото як до потенційно оманливих, тобто звертати увагу на деталі (неприродні пальці, руки, спотворені або змазані обличчя), аналізувати дрібні деталі (наприклад, позначки чи написи), зважати на неприродні кольори. І — не продукувати такі зображення або, у випадку створення, чітко їх маркувати.

Власне, у ЄС уже діє AI Act, який регулює використання ШІ, й він вимагає маркування синтетичного контенту, але не забороняє колоризацію як таку. Бо колоризація може бути і цілком прийнятною з консультацією істориків, із чітким маркуванням, для освітніх цілей (але не як історична правда), з документуванням процесу та збереженням оригіналу.

Інакше виникне цілий шар псевдоісторії, де «відновлені» образи витісняють реальні джерела. Через кілька років уже буде неможливо відрізнити, яке фото справжнє, а яке штучно створене, що ускладнює роботу істориків і архівістів і може породжувати фейки про минуле. Власне, це вже і відбувається у соцмережах.