Неправдивий звіт ШІ ледь не спровокував війну США з Китаєм

У розпал конфлікту з Іраном, серед вищого керівництва США почав поширюватися звіт, складений аналітиком командування спеціальних операцій. Документ містив тривожну інформацію: китайське судно, що знаходилося на Близькому Сході, нібито перевозило компоненти для ядерної зброї.

На підставі цього звіту, який здавався достовірним, військові негайно розпочали розробку плану перехоплення. Четверо обізнаних джерел підтвердили, що американські бійці готувалися до штурму судна, а військові літаки вже були підняті в повітря. Операція була спланована, і її початок здавався неминучим.

Проте, безпосередньо перед запланованим штурмом, посадові особи вирішили провести ретельнішу перевірку звіту. Саме тоді з'ясувалося, що документ був повністю згенерований штучним інтелектом. Чат-бот, який використовував аналітик, помилково ідентифікував вантаж судна, що могло призвести до фатальної помилки.

Як повідомило одне з джерел, звіт був «повністю неправдивим», але водночас «ледь не розпочав війну». Цей інцидент яскраво продемонстрував, наскільки небезпечним може бути використання ШІ без належної перевірки даних, особливо у питаннях, що стосуються національної безпеки та міжнародних відносин.

Помилка була критичною, адже будь-яка операція США проти китайського судна, заснована на хибних даних, могла спровокувати збройний конфлікт між двома ядерними державами. Не вдалося з'ясувати, що саме було помилково ідентифіковано як компоненти для ядерної зброї.

Наслідки цього інциденту виявили серйозні ризики інтеграції ШІ у військову розвідку. Проблема з китайським кораблем, за словами джерел, була не єдиним подібним випадком, оскільки «штучний інтелект дозволяє швидше дійти до невдалої ідеї».

Пентагон активно впроваджує штучний інтелект у майже всі аспекти своєї діяльності, від аналізу розвідувальної інформації та вибору цілей до логістики та управління бюджетом. Метою є прискорення прийняття рішень на полі бою, що, на думку офіційних осіб, критично важливо, аби не відставати від таких супротивників, як Китай. У січні міністр оборони Піт Хегсет представив «Стратегію прискорення розвитку штучного інтелекту», яка має на меті «демократизацію експериментів та перетворень у сфері ШІ» шляхом надання передових моделей трьом мільйонам співробітників.

Водночас у збройних силах та розвідувальному співтоваристві США відсутній єдиний набір стандартів для перевірки інформації, згенерованої ШІ. Різні підрозділи використовують різні інструменти з різними розпорядженнями та стандартами безпеки, що призводить до значних відмінностей у надійності та функціональності систем. Цей інцидент підкреслює найпрозаїчнішу небезпеку: прийняття людьми катастрофічних рішень на основі неточної або оманливої інформації, що генерується ШІ, про що пише CNN.

«Ми дамо волю експериментам, усунемо бюрократичні перешкоди, зосередимо наші інвестиції та продемонструємо підхід до реалізації, необхідний для забезпечення нашого лідерства у сфері військового ШІ», — заявив міністр оборони Піт Хегсет.

«Внутрішні інструменти — це здебільшого просто прикрашені копії комерційних програм», — розповів колишній високопоставлений американський чиновник, обізнаний із системами штучного інтелекту, які використовують військові та розвідувальні аналітики.

Інцидент із китайським судном слугує суворим нагадуванням про те, що, попри весь свій потенціал, штучний інтелект вимагає ретельної перевірки та контролю з боку людини. Адже саме від нашої здатності керувати цією технологією залежить не лише ефективність військових операцій, а й мир у всьому світі.