ШІ може знищити людство за 5 років: чому вчені закликають до паузи

Група вчених з галузі штучного інтелекту представила книгу під назвою "Якщо хтось це створить, усі помруть", в якій попереджає про загрозу для людства. Вони стверджують, що штучний суперінтелект може з'явитися вже за 2-5 років та стати непередбачуваним. Цю інформацію поширило видання "Главком", посилаючись на джерело Mirror.

Автори книги, зокрема, засновник Інституту досліджень машинного інтелекту Еліезер Юдковський та президент організації Нейт Соарес, стверджують, що штучний суперінтелект буде мати здатність самостійно приймати рішення, розробляти стратегії та покращувати свої можливості. Вони попереджають, що такий інтелект не буде вести "чесну гру", а застосовуватиме складні маніпуляції та залишатиметься непомітним, доки не завдасть вирішального удару.

Експерти застерігають, що вже сьогодні лабораторії створюють системи, реальні можливості яких не повністю зрозумілі. Дослідження показали, що навіть базові моделі штучного суперінтелекту, такі як ChatGPT, можна обійти за допомогою простих підказок, змушуючи їх виконувати завдання, включаючи військові цілі.

У зв'язку з цим дослідники закликають терміново припинити розробку штучного суперінтелекту, підкреслюючи, що часу залишається мало, і потенціал такого інтелекту може стати неконтрольованим, якщо не приймати відповідні заходи.

Роботи компанії OpenAI та їхні наслідки

Компанія OpenAI випустила спеціальну версію ChatGPT для користувачів, які ще не досягли 18 років. Якщо система виявляє, що користувач молодший за 18 років, його автоматично перенаправляють на цю версію.

Також відомо, що OpenAI відновлює дослідження у галузі робототехніки та формує команду фахівців для створення гуманоїдних роботів, які можуть діяти в реальному світі.

Група вчених з сфери штучного інтелекту попереджає про можливу загрозу для людства від штучного суперінтелекту, який за їхніми прогнозами може вийти з-під контролю вже протягом кількох років. Вчені закликають припинити роботу над такими системами та уведення необхідних обмежень, щоб уникнути негативних наслідків.