ШІ може стати зброєю: чому заклики пригальмувати технології лякають США

Штучний інтелект розвивається настільки швидко, що питання його безпеки вже вийшло за межі технологічної галузі та стало частиною глобального суперництва США і Китаю. Одночасно з попередженнями про потенційно небезпечні наслідки розвитку ШІ дедалі гучніше лунають заклики сповільнити гонку за найпотужнішими моделями.

Про це йдеться в аналізі The Economist.

Чому розробники ШІ хочуть пригальмувати

Останнім часом дедалі більше представників технологічної індустрії попереджають: розвиток ШІ може вийти з-під контролю, якщо потужність систем зростатиме швидше, ніж можливості людей їх контролювати.

Йдеться не лише про вже відомі ризики — дезінформацію, втрату робочих місць або зловживання технологіями. Деякі фахівці побоюються появи систем, які зможуть самостійно вдосконалювати власні можливості та діяти з дедалі меншою участю людини.

Саме тому частина керівників і дослідників ШІ виступає за тимчасове сповільнення перегонів. Вони наполягають на додаткових перевірках, незалежному аудиті потужних моделей і правилах, які дозволили б оцінити ризики ще до того, як нові системи отримають широке застосування.

США не хочуть поступатися Китаю

Для Вашингтона проблема полягає в тому, що будь-яке сповільнення може мати не лише технологічні, а й геополітичні наслідки.

США та Китай розглядають штучний інтелект як важливу складову майбутньої економічної та військової переваги. Тому для американської влади питання звучить не просто як «наскільки безпечним має бути ШІ», а й як «хто отримає перевагу, якщо одна країна пригальмує, а інша продовжить розробки».

Як зазначає Reuters, конкуренція у сфері ШІ вже стала одним із важливих питань у відносинах Вашингтона та Пекіна: країни сперечаються через доступ до передових чипів, технології та правила регулювання галузі, водночас розрив між їхніми найпотужнішими моделями скорочується.

Для США це створює своєрідну пастку. Посилення правил може зменшити ризики, але водночас здатне уповільнити розвиток американських компаній. Відсутність обмежень, навпаки, дозволяє швидше рухатися вперед, але збільшує потенційні наслідки помилок або зловживань.

Чи можливі домовленості між США і Китаєм

Окрема проблема — військове використання штучного інтелекту. Якщо автономна система отримає можливість впливати на кібероперації, військові рішення або критичну інфраструктуру, помилка алгоритму може бути сприйнята іншою стороною як навмисна атака.

У такій ситуації особливо небезпечним стає скорочення часу на ухвалення рішень. Людям може залишитися лише кілька хвилин, щоб зрозуміти, чи сталася технічна помилка, чи почалася атака.

Саме тому експерти з обох країн говорять про необхідність хоча б мінімальних запобіжників: збереження людського контролю над найнебезпечнішими рішеннями, чітких правил для військового використання ШІ та каналів зв’язку на випадок надзвичайних ситуацій.

Гонка ШІ вже стала геополітичною

Ще кілька років тому суперництво навколо штучного інтелекту здебільшого стосувалося технологічного лідерства та прибутків компаній. Тепер воно дедалі більше пов’язане з військовою безпекою, доступом до передових напівпровідників і впливом держав на розвиток технологій.

Китай уже скорочує відставання від американських розробників, а окремі представники індустрії вважають, що в найближчій перспективі країни можуть опинитися практично на одному рівні у створенні найпотужніших моделей.

Тому дискусія про те, чи потрібно пригальмувати розвиток ШІ, фактично перетворилася на значно складніше питання: як одночасно не допустити небезпечного технологічного прориву та не дозволити конкуренту отримати перевагу через те, що одна сторона вирішила діяти обережніше.