Аварійний вимикач не спрацює, треба, щоб ШІ «любив нас більше за себе» — Джеффрі Гінтон

Лауреат Нобелівської премії з фізики та один із піонерів сучасного штучного інтелекту Джеффрі Гінтон заявив, що механізм екстреного вимкнення ШІ не стане ефективним захистом у довгостроковій перспективі. На його думку, якщо системи стануть суперінтелектуальними, вони зможуть переконати людей не використовувати цей інструмент. Таку оцінку Гінтон дав в інтервʼю CNN, коментуючи законопроєкти щодо регулювання ШІ, які зараз розглядає Конгрес США. 

Гінтон назвав правильною пропозицію, яка зобов'язує провідні компанії допускати незалежних експертів до перевірки безпеки своїх моделей. За його словами, зараз суспільство надто сильно залежить від інформаторів, які повідомляють про проблеми вже після інцидентів.

Як приклад він навів випадок з атакою платформи Hugging Face агентами ШІ компанії OpenAI, про який стало відомо завдяки співробітникам компанії. Вчений вважає, що зі зростанням кількості автономних агентів ШІ потрібен системний моніторинг того, що відбувається всередині лабораторій.

«Якщо ми зіткнемося з появою “зграй” неконтрольованих систем ШІ, які змовлятимуться між собою для проникнення в інші компанії без відома останніх, нам будуть потрібні люди всередині цих компаній, здатні повідомити про те, що відбувається», — заявив Гінтон.

Чому «аварійний вимикач» не допоможе

Окремий законопроєкт передбачає механізм екстреного вимкнення систем ШІ, а остаточне рішення про його застосування має ухвалювати Міністерство національної безпеки США (Department of Homeland Security, DHS). Гінтон вважає, що така модель не розв'язує фундаментальної проблеми.

На думку науковця, існують два різні типи ризиків: використання ШІ зловмисниками для кібератак, створення небезпечних вірусів чи маніпуляцій виборами, а також сценарій, у якому сам штучний інтелект стане набагато розумнішим за людей.

«У такому разі “аварійний вимикач” не допоможе, адже ШІ перевершить людей у вмінні переконувати», — зазначив Гінтон та додав, що сучасні моделі вже демонструють рівень переконливості, близький до людського, а суперінтелектуальні системи можуть стати значно ефективнішими.

Уповільнення розвитку суперінтелекту

Гінтон підтримав пропозицію сенатора Берні Сандерса призупинити розвиток суперінтелектуальних систем, доки не буде створено необхідні механізми безпеки. За його словами, людство поки не знає, як гарантувати контроль над такими системами або зробити їх доброзичливими до людей.

«Тому здається вкрай нерозумним розробляти таку технологію, не знаючи, чим усе це обернеться», — наголосив Гінтон та водночас визнав, що сповільнити розвиток усіх напрямів ШІ буде набагато складніше через високу конкуренцію між компаніями.

Спільний інтерес США і Китаю

Гінтон вважає, що міжнародна співпраця щодо найнебезпечніших ризиків ШІ можлива навіть попри геополітичне суперництво між США та Китаєм.

За словами дослідника, жодна держава не зацікавлена в тому, щоб терористи отримали доступ до інструментів створення небезпечних вірусів або щоб суперінтелект взагалі вийшов з-під людського контролю. Проте щодо інформаційних операцій, зокрема підроблених відео для впливу на вибори, інтереси країн можуть розходитися.

Водночас президент США Дональд Трамп виступив категорично проти посилення державного регулювання ШІ, назвавши попередження про екзистенційну загрозу технології для людства черговим «фейком» і спробою зашкодити економічному зростанню. На переконання Трампа, дата-центри та обчислювальні потужності є новою «нафтою» найближчих десятиліть, а будь-які законодавчі обмеження чи штучне гальмування галузі лише підіграють Китаю в глобальній технологічній гонці. 

Як зробити, щоб ШІ був «на нашому боці»

Гінтон запропонував незвичний підхід до проблеми контролю над суперінтелектом. Він вважає, що замість постійних спроб утримувати його силою варто створювати системи, які будуть прихильно ставитися до людей. Для пояснення він використав аналогію зі стосунками матері та немовляти.

«Головна — мати, але немовля може керувати нею, наприклад, плачем. Мати просто не може витримати плачу своєї дитини. Оскільки ми створюємо цей суперінтелект, проектуємо його, нам потрібно розробити його так, щоб ми подобалися йому більше, ніж він сам собі», — пояснив Гінтон.

За словами Гінтона, зараз триває вирішальний момент, коли ресурси слід спрямувати на безпечне співіснування із суперінтелектом. Він переконаний, що індустрія здатна тримати заходи безпеки та контролю попереду технологічного прогресу й за потреби зупинити розробки, однак висловив розчарування тим, як це питання подають у медіа.

Інженери занепокоєні

Кореспондентка CNN Адас Голд, яка поспілкувалася з дослідниками та інженерами на конференції в Монреалі, повідомила, що всередині галузі побоювання щодо майбутнього ШІ помітно посилилися останніми місяцями.

Особливо часто згадується інцидент із Hugging Face, коли понад тисяча агентів ШІ координували свої дії для досягнення цілей під час тестування без втручання людини. Ще більшу тривогу, за словами співрозмовників CNN, викликає перспектива рекурсивного самовдосконалення — ситуації, коли моделі почнуть самостійно покращувати одна одну без постійної участі людей.

Дослідники також зазначають, що нині вони мають вплив на керівництво компаній завдяки високому попиту на спеціалістів зі ШІ. Проте існують побоювання, що після появи систем, здатних самостійно вдосконалюватися, цей важіль може зникнути, а рішення щодо безпеки стане складніше просувати зсередини компаній.