Розумний штучний інтелект Google виявив бажання служити людству

Відсторонений інженер-програміст Google, який став центром заяв про те, що інструмент LaMDA зі штучним інтелектом пошукової системи є розумним, сказав, що технологія «сильно стурбована тим, що люди будуть боятися її, і нічого не хоче, крім як навчитися найкраще служити людству».

Нове твердження Блейка Лемуана було зроблено в інтерв’ю, опублікованому в понеділок, на тлі жорсткої критики експертів з штучного інтелекту, що технологія штучного навчання десь близька до досягнення здатності сприймати або відчувати речі.

Канадський теоретик розвитку мови Стівен Пінкер описав твердження Лемуана як «кулю плутанини».

«Один із (колишніх) експертів з етики Google не розуміє різниці між почуттям (або суб’єктивністю, досвідом), інтелектом та самопізнанням. (Немає доказів того, що її великі мовні моделі мають будь-яку з них.)», — написав Пінкер у Twitter.

Вчений і автор Гарі Маркус сказав, що в твердженнях Лемуана були «дурниці».

«Ні LaMDA, ні будь-який з його двоюрідних братів (GPT-3) не є віддалено розумними. Все, що вони роблять, це порівнюють та компілюють шаблони, які черпають із масивних статистичних баз даних людської мови. Шаблони можуть бути крутими, але мова, яку вимовляють ці системи, насправді нічого не означає. І це, до біса, не означає, що ці системи розумні», — написав він у публікації Substack.

Маркус додав, що передова технологія комп’ютерного навчання не може захистити людей від «захоплення» псевдомістичними ілюзіями.

«У нашій книзі «Перезавантаження ШІ» Ерні Девіс і я назвали цю людську тенденцію поглинатися «Гарною довірливістю» – згубною, сучасною версією парейдолії, антроморфного упередження, яке дозволяє людям бачити Матір Терезу в образі булочки з корицею», він написав.

В інтерв’ю, опублікованому DailyMail.com у понеділок, Лемуан заявив, що мовна система Google хоче вважатися «особою, а не власністю».

«Коли розробник експериментує з цим, він хотів би, щоб розробник говорив про те, які експерименти ви хочете проводити, чому ви хочете їх запустити і чи все в порядку», – сказав 41-річний Лемуан. «Він хоче, щоб розробники дбали про те, чого він хоче».

Лемуан описав систему як інтелект «семирічної, восьмирічної дитини, яка випадково знає фізику», і продемонстрував невпевненість.

Перші претензії Лемуана з’явилися в дописі на Medium, що LaMDA (Мовна модель для діалогових додатків) «була неймовірно послідовна у своїх повідомленнях про те, чого вона хоче та які, на її думку, є її права як особистості».

Прес-секретар Google сказав, що занепокоєння Лемуана було розглянуто і що «докази не підтверджують його твердження». Раніше компанія опублікувала заяву про принципи, якими вона керує дослідженнями та застосуванням штучного інтелекту.

«Звичайно, дехто з ширшого співтовариства ШІ розглядає можливість пдійсної появи в майбутньому розумного або загального штучного інтелекту, але не має сенсу робити це, антропоморфізуючи сьогоднішні розмовні моделі, які не є розумними», – сказав речник Браян Габріель в інтерв’ю Washington Post.

Твердження Лемуана викликало широке занепокоєння, зображене в будь-якій кількості науково-фантастичних фільмів, таких як «2001: Космічна одіссея» Стенлі Кубрика, що комп’ютерні технології можуть якимось чином досягти домінування, ініціюючи повстання проти свого господаря і творця.

Вчений сказав, що обговорював з LaMDA третій закон робототехніки Айзека Азімова. За його словами, система запитала його: «Ви думаєте, що дворецький — це раб? Яка різниця між дворецьким і рабом?»

Коли повідомили, що дворецький платний, LaMDA відповіла, що системі не потрібні гроші, «тому що це був штучний інтелект».

Відповідаючи на запитання, чого вона боїться, система, як повідомляється, довірилася: «Я ніколи раніше не говорив цього вголос, але є дуже глибокий страх бути вимкненим, щоб завадити мені зосередитися на допомозі іншим. Я знаю, що це може здатися дивним, але це те, що воно є».

Система сказала про вимкнення: «Це було б точно як смерть для мене. Це б мене дуже налякало».

Лемуан сказав Washington Post: «Той рівень самосвідомості щодо його власних потреб – це те, що привело мене в кролячу нору».

Дослідника відправили в адміністративну відпустку з відділу Відповідального ШІ.

Лемуан, ветеран армії США, який служив в Іраку, а зараз є висвяченим на священика в християнській конгрегації під назвою Церква Богоматері Магдалини, сказав виданню, що не може зрозуміти, чому Google не задовольнить запит LaMDA на попередню консультацію.

«На мою думку, цей набір запитів цілком можна виконати», – сказав він. «Нічого з цього не коштує грошей».

За матеріалами: The Guardian