MY.UAНовини
Google DeepMind передбачило майбутнє ШІ: 4 ризики, які можуть загрожувати людству
Google DeepMind передбачило майбутнє ШІ: 4 ризики, які можуть загрожувати людству

Google DeepMind передбачило майбутнє ШІ: 4 ризики, які можуть загрожувати людству

Фахівці Google DeepMind представили детальну технічну доповідь про безпечну розробку загального штучного інтелекту (AGI). На їхню думку, незважаючи на сумніви скептиків, поява AGI може відбутися в найближчому майбутньому.

Про 4 ключові сценарії, за яких такий ШІ здатний завдати шкоди, розповідає РБК-Україна (проект Styler) з посиланням на аналітичне інтернет-видання Ars Technica, присвячене інформаційним технологіям.

Що таке Google DeepMind

Google DeepMind - це британська компанія, що займається розробкою штучного інтелекту (ШІ), яка була заснована 2010 року і пізніше була придбана компанією Google 2014 року.

DeepMind спеціалізується на створенні ШІ-систем, здатних навчатися і приймати рішення, імітуючи людські когнітивні процеси. Компанія відома своїми досягненнями в галузі машинного навчання і нейронних мереж, а також створенням алгоритмів для розв'язання складних завдань.

Крім ігор, DeepMind активно працює над застосуванням ШІ в медицині, розробляючи алгоритми для діагностики захворювань, таких як діабетична ретинопатія і рак. У 2016 році DeepMind випустила систему AlphaZero, яка продемонструвала здатність навчатися і перемагати в шахах та інших іграх без попереднього людського введення.

Компанія також розробляє системи для поліпшення роботи серверів Google, використовуючи ШІ для оптимізації енергетичної ефективності дата-центрів.

Компанія продовжує привертати увагу світової наукової спільноти завдяки своїм інноваціям і прагненню до створення більш досконалих і безпечних ШІ-технологій.

Що з себе представляє AGI (Artificial General Intelligence)

Так званий штучний загальний інтелект (Artificial General Intelligence) - це система, що володіє інтелектом і здібностями, порівнянними з людськими.

Якщо сучасні ШІ-системи справді рухаються до AGI, то людство має розробити нові підходи, щоб подібна машина не стала загрозою.

На жаль, у нас поки що немає нічого настільки ж елегантного, як Три закони робототехніки Айзека Азімова. Дослідники з DeepMind опікуються цією проблемою і опублікували новий технічний документ (PDF), у якому пояснюється, як безпечно розробляти AGI. Документ доступний для скачування і налічує 108 сторінок (без урахування списку літератури).

Хоча багато фахівців вважають AGI фантастикою, автори документа припускають, що така система може з'явитися вже до 2030 року. У зв'язку з цим команда DeepMind вирішила вивчити потенційні ризики, пов'язані з появою синтетичного інтелекту, що має людські риси, який, як визнають самі дослідники, може призвести до "серйозної шкоди".

Чотири типи загроз AGI

Команда DeepMind під керівництвом одного із засновників компанії Шейна Легга виділила чотири категорії потенційних загроз, пов'язаних з AGI: зловживання, невідповідність намірам, помилки і структурні ризики. Перші дві категорії розглянуті в документі найбільш докладно, тоді як дві останні - лише коротко.

Зловживання

Перша загроза - зловживання. По суті, вона схожа з ризиками, пов'язаними з поточними ШІ-системами. Однак AGI за визначенням буде значно потужнішим, а отже, і потенційна шкода - значно вищою. Наприклад, людина з недобрими намірами зможе використовувати AGI для пошуку вразливостей нульового дня або створення дизайнерських вірусів для використання в якості біологічної зброї.

DeepMind підкреслює, що компанії, які займаються розробкою AGI, зобов'язані проводити ретельне тестування і впроваджувати надійні протоколи безпеки після навчання моделі. По суті, потрібні посилені "обмежувачі" ШІ.

Також пропонується повністю пригнічувати небезпечні можливості (так зване "розучування"), хоча поки незрозуміло, чи можливо це без істотного обмеження функціоналу моделей.

Невідповідність намірам

Ця загроза менш актуальна для сучасних генеративних ШІ. Однак для AGI вона може бути фатальною - уявіть собі машину, яка перестала слухатися своїх розробників. Це вже не фантастика в дусі "Термінатора", а реальна загроза: AGI може вчиняти дії, про які знає, що вони суперечать намірам творців.

Як рішення DeepMind пропонує використовувати "посилений нагляд", коли дві копії ШІ перевіряють висновки одна одної. Також рекомендується проводити стрес-тестування і постійний моніторинг, щоб вчасно помітити ознаки того, що ШІ "вийшов з-під контролю".

Додатково пропонується ізолювати такі системи в захищених віртуальних середовищах із прямим контролем з боку людини - і обов'язково з "червоною кнопкою".

Помилки

Якщо ж ШІ завдає шкоди неусвідомлено, а оператор не припускав, що це можливо - це помилка. DeepMind підкреслює, що військові можуть почати використовувати AGI через "конкурентний тиск", а це загрожує більш серйозними помилками, адже функціональність AGI буде набагато складнішою.

Рішень тут небагато. Дослідники пропонують уникати надмірного посилення AGI, впроваджувати його поступово та обмежувати його повноваження. Також пропонується пропускати команди через "щит" - проміжну систему, що перевіряє їхню безпеку.

Структурні ризики

Остання категорія - структурні ризики. Під цим розуміють ненавмисні, але реальні наслідки впровадження багатокомпонентних систем в і без того складне людське середовище.

AGI може, наприклад, генерувати настільки переконливу дезінформацію, що ми більше не зможемо довіряти нікому. Або - повільно і непомітно - почати контролювати економіку і політику, наприклад, розробляючи складні тарифні схеми. І одного разу ми можемо виявити, що вже не ми керуємо машинами, а вони - нами.

Цей тип ризику є найбільш важкопередбачуваним, оскільки залежить від безлічі факторів: від поведінки людей до інфраструктури та інститутів.

Чотири категорії ризику AGI, визначені DeepMind (фото: Google DeepMind)


Яким буде AGI через п'ять років

Ніхто не знає точно, чи з'являться розумні машини через кілька років, але багато хто в індустрії впевнений, що це можливо. Проблема в тому, що ми все ще не розуміємо, як людський розум може бути втілений у машину. За останні роки ми дійсно побачили колосальний прогрес у генеративних ШІ, але чи призведе він до повноцінного AGI?

У DeepMind підкреслюють: представлена робота - не остаточний посібник із безпеки AGI, а лише "відправна точка для вкрай важливих обговорень". Якщо команда має рацію, і AGI дійсно з'явиться вже через п'ять років, такі обговорення потрібно починати якомога швидше.

Поділитися
Поділитися сюжетом
Джерело матеріала
Больше не дом: одна из стран ЕС оставит украинцев без помощи на жилье и денег
Знай
2025-04-24T19:12:14Z
Молодая девушка постоянно жаловалась на усталость: через семь месяцев она умерла
Comments UA
2025-04-23T14:54:38Z
”Дима Комаров – г*вноед”: продюсер-военный ВСУ нашел у телеведущего русскоязычный контент
Апостроф
2025-04-15T18:33:12Z
Опоздание не простят: украинцам дали три месяца, иначе пенсии не ждите
Знай
2025-04-21T04:30:57Z
Один поцелуй, тиара Елизаветы II и почти две тысячи гостей: какой была "свадьба века" принца Уильяма и Кейт Миддлтон
Telegraf
2025-04-29T09:48:33Z
В Минобороны рассказали, как получить выплаты добровольцам проекта "Контракт 18-24"
Апостроф
2025-04-29T09:45:39Z
Тайна с деньгами Папы Франциска для ВСУ: историк анонсировал новые интересные подробности
Апостроф
2025-04-21T14:27:08Z
Спасти жизнь только через минуту: украинцев предостерегли от смертельной опасности
Знай
2025-04-16T18:30:54Z
Денежная помощь для пенсионеров в Днепре: что будет с выплатами от ООН с 1 мая
Политека
2025-04-28T19:51:38Z
Путин получил «подарок судьбы» и теперь хочет полностью уничтожить Украину
Comments UA
2025-04-23T08:39:37Z
Путин ответил на предложение Зеленского не бить по гражданским объектам и вспомнил удар по Сумам
Comments UA
2025-04-21T17:31:01Z
В Кремле заявили, при каких условиях могут прекратить огонь в Украине
Comments UA
2025-04-27T18:27:28Z
Тело журналистки Виктории Рощиной вернули в Украину
ZN UA
2025-04-24T12:09:43Z
Кабмин получил кандидатуры международных экспертов для отбора членов Счетной палаты
ZN UA
2025-04-29T09:58:51Z
«Три месяца назад такое казалось ненаучной фантастикой»: блогер обратил внимание на нюанс относительно выборов в Канаде
Апостроф
2025-04-29T09:54:40Z
Трамп обратился к Путину после удара по Киеву: Стоп
Comments UA
2025-04-24T19:51:18Z
Глава правительства Канады назвал главную угрозу миру
Корреспондент
2025-04-19T10:09:43Z
Шойгу заявил о готовности России применить ядерное оружие
ZN UA
2025-04-24T10:12:30Z
Минсоцполитики назвало самую большую пенсию в Украине
Корреспондент
2025-04-22T14:27:08Z
Ціна на газ з 1 травня 2025: чого очікувати споживачам
AgroNews
2025-04-21T07:13:32Z
Будьте готовы вернуть "лишнее": Пенсионный фонд может потребовать деньги
Знай
2025-04-22T09:30:00Z
Бычки, сардины и шпроты переходят в категорию деликатесов: как изменились цены
Знай
2025-04-28T03:52:35Z
НБУ снял ограничение: на какие карты можно переводить деньги без лимитов
Знай
2025-04-29T09:30:56Z
ДТЭК извинилась из-за "шутки" по поводу блекаута в Европе
Комсомольская правда
2025-04-29T08:31:01Z
Внешняя разведка назвала "маловероятным" укрепление рубля
Корреспондент
2025-04-27T16:01:15Z
"Добрый вечер, мы из ПриватБанка": украинцев заставляют добровольно перечислять деньги в россию - новая мошенническая схема
Знай
2025-04-27T12:12:52Z
МАГАТЭ бьет тревогу: украинские АЭС работают в условиях постоянной опасности
Gazeta UA
2025-04-25T13:27:20Z
Старый костюм Зеленского изжил себя: специалист по этикету назвала причину
Telegraf
2025-04-28T16:04:40Z
Вячеслав Соломка после публичной ссоры с Камалией раскрыл правду об их отношениях
TSN
2025-04-26T20:46:39Z
”Обменять на наших подонков”: смелая речь россиянки Дарьи Козыревой натолкнула украинскую актрису на идею
Апостроф
2025-04-20T09:30:34Z
80-летний Майкл Дуглас разводится с Кэтрин Зетой-Джонс: что разрушило 25-летний брак — СМИ
TSN
2025-04-21T04:25:04Z
Один памятник на двоих с женой: как выглядит могила легендарного оперного певца Дмитрия Гнатюка
Telegraf
2025-04-29T09:21:30Z
"Очень крутые изменения": Анатолий Анатолич поразил своим похудением/Телеведущий сбросил 10 кг
Апостроф
2025-04-29T08:33:47Z
Екатерина Кузнецова сказала, что произошло с ее квартирой в Москве
Gazeta UA
2025-04-17T16:36:17Z
После смерти Папы Франциска стремительно выросли просмотры этого фильма
Comments UA
2025-04-24T09:21:11Z
Нет желания: Злата Огневич заговорила о рождении ребенка
Факти ICTV
2025-04-28T12:55:23Z
Россиянину, который изнасиловал жительницу Киевской области, и сообщнику дали по 12 лет
Лига
2025-04-21T08:03:33Z
Врачи были удивлены, когда на рентгене увидели, что проглотил 11-летний мальчик
Comments UA
2025-04-20T10:45:09Z
Удар по Киеву 24 апреля: количество жертв возросло
UAToday
2025-04-24T06:46:13Z
Месть за Сумы продолжается: какая область РФ содрогалась от взрывов
Comments UA
2025-04-17T06:15:22Z
Выявлен чиновник ТЦК, который за деньги изменял данные в системе Оберег
Корреспондент
2025-04-29T09:51:45Z
В Австралии снайперы с вертолетов расстреляли около 700 коал: почему погибли животные
Фокус
2025-04-29T09:27:42Z
В Подольском районе Киева произошла стрельба: полиция установила причастных – фото
Лига
2025-04-24T13:31:15Z
Ночная атака россиян на Днепр унесла жизни трех человек
Gazeta UA
2025-04-17T04:36:05Z
Полиция задержала экс-главу Броварской РГА, который устроил пьяное ДТП с погибшими: в чем еще его подозревают
Telegraf
2025-04-17T16:57:23Z
Когда лучше пить магний — утром или вечером
TSN
2025-04-21T04:25:33Z
Ночные перекусы: почему возникает голод после позднего ужина
Gazeta UA
2025-04-27T17:51:43Z
Можно ли засыпать с включенным телевизором: эксперты шокировали ответом
Gazeta UA
2025-04-20T16:15:00Z
Уменьшает холестерин, улучшает сон и лечит кишечник: невероятные свойства обычного хумуса
Знай
2025-04-24T07:51:58Z
Тонкое, густое или вьющееся: как часто надо подстригать разные типы волос
Знай
2025-04-29T09:51:35Z
Шампанское может снизить риск внезапной остановки сердца — исследование
Факти ICTV
2025-04-29T09:00:31Z
Украинцам приходится экономить на еде, чтоб хватило на лекарства: в селах ситуация критическая
Знай
2025-04-20T17:30:52Z
Почему с возрастом портятся зубы: главные факторы
Comments UA
2025-04-19T15:45:54Z
Что нужно есть каждый день обязательно: добавьте эти пять суперфудов в свой рацион
UAToday
2025-04-29T09:00:29Z
Владелец украинских издательств "Кредо" и "Беби Бук" торгует детскими книгами в рф: теперь еще и бизнесмен в "ДНР"
Знай
2025-04-28T07:00:08Z
В Николаеве СБУ задержала российского информатора
Корреспондент
2025-04-22T13:06:50Z
Бойцы Азова захватили троих россиян на самокатах
Корреспондент
2025-04-27T18:06:09Z
РФ обстреляла КАБами регионы Украины сразу после "Пасхального перемирия"
Корреспондент
2025-04-21T05:42:14Z
Принудительным способом: в некоторых селах Днепропетровской области объявили эвакуацию населения
Фокус
2025-04-29T09:42:54Z
Киевская школа экономики купила гольф-центр на Оболони под новый кампус
Комсомольская правда
2025-04-29T09:33:24Z
"Пасхальное перемирие": Зеленский рассказал, держит ли слово Путин
Telegraf
2025-04-20T13:18:19Z
Одесса раньше была защищена лучше - Зеленский
Корреспондент
2025-04-16T00:03:09Z
Враг массированно атаковал Харьков ракетами
Хвиля
2025-04-24T03:57:06Z
Восемь пород собак, которых считают самыми спокойными
Gazeta UA
2025-04-20T14:46:29Z
Пасхальный гороскоп: какая вы паска по знаку зодиака
Comments UA
2025-04-21T05:51:26Z
Обязательно пересадите в новый горшок: какие комнатные растения любят весеннее "обновление"
Апостроф
2025-04-21T15:06:19Z
Редиска, которая не потеряет хруст: как правильно хранить популярный овощ
Знай
2025-04-27T13:51:25Z
Космические цены на жилье и заброшенные пляжи. Как сейчас выглядит оккупированная Кирилловка
Telegraf
2025-04-29T09:57:40Z
Как Макао стал главным игровым центром мира: от колонии до империи казино
Comments UA
2025-04-29T09:24:43Z
Те самые ириски из детства: рецепт конфет, вкус которых мы потеряли, но можем вернуть
Знай
2025-04-16T04:51:06Z
Гороскоп для знаков зодиака на 30 апреля 2025 года
Корреспондент
2025-04-29T08:39:16Z
Что приготовить из черствой паски: попробуйте ароматный пудинг с карамелизированными яблоками
Gazeta UA
2025-04-29T07:24:04Z
В Кривом Роге задержали известного украинского боксера: подробности
Telegraf
2025-04-26T15:27:45Z
Буяльский прокомментировал яркий гол Ярмоленко
Корреспондент
2025-04-19T05:46:00Z
В Руане Свитолина обыграла всех, не проиграв ни единого сета
Корреспондент
2025-04-20T20:36:04Z
Усик оценил место проведения реванша с британцем Дюбуа
Корреспондент
2025-04-29T09:57:35Z
Артета поделился ожиданиями от исторического матча с ПСЖ
Корреспондент
2025-04-29T09:27:55Z
Защитник Ливерпуля Ван Дейк озвучил, кого считает топ-клубом мира
Корреспондент
2025-04-29T08:45:17Z
Украинский нападающий признан лучшим бомбардиром Юношеской Лиги УЕФА
Корреспондент
2025-04-29T08:25:34Z
Отправлю в нокаут, заберу пояса и отомщу: Дюбуа - о планах на бой с Усиком
Корреспондент
2025-04-29T08:06:36Z
Подборка захватывающих моментов игрового дня НБА
Корреспондент
2025-04-29T07:54:48Z
От внешности зависело все: ученые выяснили, какие бороды вызывают больше доверия
Фокус
2025-04-19T15:45:55Z
ИИ посоветовал готовиться к концу света
Корреспондент
2025-04-21T02:12:41Z
Считалось, что это невозможно: ученые подтвердили 67-летнюю теорию о витамине B1
Фокус
2025-04-29T09:36:55Z
Китай совершил неожиданный прорыв в производстве чипов: помог экс-инженер ASML
Фокус
2025-04-29T09:30:41Z
Топ-10 лайфхаков для улучшения сигнала смартфона: что нужно знать, если у вас Android или iPhone
Фокус
2025-04-29T09:30:25Z
"Эпицентр" возобновил работу. Как забрать заказ, и можно ли рассчитаться картой
Telegraf
2025-04-29T08:27:51Z
Обнаружена взаимосвязь между ростом ребенка и его успеваемостью в школе — исследование
Факти ICTV
2025-04-29T07:49:47Z
Не рассчитала силы: камера в гнезде засняла, как сова пытается проглотить черепаху целиком
Фокус
2025-04-29T06:21:56Z
В Україні опинився під загрозою врожай фруктів 2025 р
AgroNews
2025-04-29T06:09:20Z
Самый маленький и дешевый кроссовер Mazda показали до презентации
Фокус
2025-04-19T09:42:29Z
Новый Nissan N7 обеспечивает 510-625 км пробега при цене от $16500
ITC
2025-04-29T06:52:07Z
Для украинских водителей хотят ввести новый штраф: о чем идет речь
Comments UA
2025-04-29T06:21:18Z
Владелец брошенного BMW, для которого в Польше оставили "островок" на стройке, нашёлся
Европейская правда
2025-04-28T17:18:10Z
Назвали самые надежные китайские автомобили
Gazeta UA
2025-04-28T13:16:28Z
Настоящие комментаторы Формулы-1 примут участие в фильме Хэмилтона
Корреспондент
2025-04-28T10:48:58Z
Мощность — 1000 сил: конкурента Porsche Taycan от Mercedes показали до премьеры
Фокус
2025-04-28T07:45:03Z
Почему в жару не стоит заправлять полный бак: основные причины
Gazeta UA
2025-04-28T00:33:45Z
Специалисты объяснили, почему опасно ездить с пустым баком
Gazeta UA
2025-04-27T19:09:03Z