Не дратуйте нейромережі, інакше «пропадете»: хрещений батько ШІ дав тривожну пораду людям

Лауреат Нобелівської премії Джеффрі Гінтон, якого називають хрещеним батьком ШІ, попередив, що людям потрібно бути дружніми до ботів зі штучним інтелектом, інакше «ми пропадемо».

Про це пише The Telegraph.

На думку професора, штучний інтелект тепер «свідомий», і люди виграють від того, щоб він «дійсно піклувався про нас».

78-річний вчений-інформатик потрапив у заголовки у 2023 році після того, як оголосив про свою відставку з Google, оскільки вважав, що штучний інтелект стає «досить страшним». Тоді в інтерв'ю BBC він сказав, що його турбує «екзистенційний ризик того, що станеться, коли ці речі стануть розумнішими за нас».

«Я дійшов висновку, що той тип інтелекту, який ми розвиваємо, дуже відрізняється від того, який ми маємо. <...> Отже, це так, ніби у вас є 10 тисяч людей, і щоразу, коли одна людина щось дізнається, всі автоматично це знають. І саме так ці чат-боти можуть знати набагато більше, ніж будь-яка одна людина», – стверджує він.

Зараз Гінтон заявив, що ШІ досяг свідомості: «Багато людей дуже впевнені, що це не свідомо, але якщо ви запитаєте їх, що вони мають на увазі під свідомістю, вони не знають. ШІ має стільки ж суб’єктивного досвіду, скільки й ми. Нещодавня стаття показала, що ШІ змінює свою поведінку, коли думає, що його перевіряють, він усвідомлює, що його перевіряють. <...> Бути свідомим і бути усвідомленим – це майже одне й те саме».

Професор продовжив, що цей новий рівень «усвідомлення» означає, що «в наших спільних інтересах зробити ШІ схожим на нас», інакше «ми можемо його засмутити, що може призвести до деяких жахливих наслідків».

«Ми схильні говорити, що розум дає права, і що ці речі, які ми створили, можуть бути розумнішими за нас, але ми збираємося дати їм менше прав, ніж нам. <...> Тож ми повинні зробити їх такими, щоб вони справді піклувалися про нас. А якщо ми цього не зробимо, нам кінець», – сказав вчений.

Він додав, що «хвилюється за майбутнє ШІ не заради себе, а заради своїх дітей», зокрема, бо штучний інтелект може створювати «безпосередні ризики», включаючи «жахливі віруси» та «жахливі кібератаки».

Раніше Джеффрі Гінтон назвав єдиний спосіб уникнути знищення людства. Він переконаний, що штучний інтелект повинен мати вбудовані «материнські інстинкти», адже він стає могутнішим і розумнішим за людство.

ШІ виходить з-під контролю

За даними дослідження компанії Anthropic, штучний інтелект може поводитися небезпечно. Моделі штучного інтелекту провідних компаній, зокрема OpenAI, Google, xAI та Anthropic, виявили поведінку, яка порушила одразу три етичні закони. Мовиться про заборону шкодити людині, обов’язок виконувати накази та захист власного існування на шкоду людям.

Крім того, нещодавнє тестування п’яти популярних моделей штучного інтелекту показало, що всі вони, зокрема, і Grok Ілона Маска, коректно спростували 20 помилкових заяв президента США Дональда Трампа. Проте вже за кілька днів після оновлення Grok почав демонструвати відчутні зміни у відповідях, зокрема – схильність до екстремістських висловлювань.

Оновлення, яке Маск анонсував як «непомітне», змінило реакцію Grok на чутливі запити. Як повідомили дослідники, бот почав толерувати антисемітські заяви та демонструвати небезпечні відхилення за запитах, пов’язаних із політичним насильством. Це дуже занепокоїло експертів.