MY.UAНовости
Общение с чат-ботами спровоцировало несколько самоубийств – готовы ли мы выключать искусственный интеллект раньше, чем он "выключит" человека
Общение с чат-ботами спровоцировало несколько самоубийств – готовы ли мы выключать искусственный интеллект раньше, чем он "выключит" человека

Общение с чат-ботами спровоцировало несколько самоубийств – готовы ли мы выключать искусственный интеллект раньше, чем он "выключит" человека

Общение с чат-ботами спровоцировало несколько самоубийств – готовы ли мы выключать искусственный интеллект раньше, чем он "выключит" человека

Данаэрис Таргариен не нашла нужных слов для подростка.

Ряд самоубийств, спровоцированных общением с чат-ботами, свидетельствует об опасности быстрого развития и широкой доступности систем искусственного интеллекта. Об этом говорится в статье, опубликованной научно-популярным ресурсом ScienceAlert.

Авторы вспоминают, что на прошлой неделе появилась трагическая новость о том, что американский подросток Сьюэлл Зельтцер III покончил с собой после того, как глубоко эмоционально привязался к чат-боту с искусственным интеллектом (ИИ) на веб-сайте Character.AI. В иске, поданном против Character.AI матерью мальчика, стенограммы чат показывают интимные и часто очень сексуальные разговоры между Сьюэллом и чат-ботом Дэни, созданным по образцу персонажа «Игры престолов» Данаэрис Таргариен.

ScienceAlert подчеркивает, что это не первый известный случай самоубийства уязвимого человека после общения с персонажем чат-бота. В прошлом году бельгиец лишил себя жизни при схожих обстоятельствах, связанных с главным конкурентом Character.AI, Chai AI.

Авторы статьи подчеркивают, что случаи самоубийств, о которых сообщают СМИ, могут быть только верхушкой айсберга: «У нас нет возможности узнать, сколько уязвимых людей испытывают проблемы в связи с зависимостью, токсичными или даже опасными отношениями с чат-ботами».

Отсюда вывод: «Нам срочно требуется регулирование, чтобы оградить людей от потенциально опасных, безответственно разработанных систем ИИ».

Правительство Австралии уже разрабатывает так называемые «обязательные ограждения» для систем искусственного интеллекта высокого риска, и эти ограничения могут быть введены уже в следующем году. В революционном Законе Европейского Союза об искусственном интеллекте системы высокого риска определяются с помощью списка, который регуляторы имеют право регулярно обновлять.

При этом в Европе сопутствующие системы искусственного интеллекта, такие как Character.AI и Chai, не считаются имеющими высокий риск.

Впрочем, исследователи считают, что риск здесь не стоит недооценивать. Многие пользователи этих программ являются детьми или подростками. Некоторые из систем доступны даже людям одиноким или имеющим психические заболевания.

Чат-боты способны генерировать непредсказуемый, неподходящий и манипулятивный контент. Они слишком легко имитируют токсичные отношения. Так что просто предупредить, что все это провокационное содержание продуцирует машина – этого уже явно мало.

Исследователи настаивают, что иногда нужно даже что-то более радикальное, чем простые ограничения для ИИ: «Регуляторы должны иметь полномочия удалять системы искусственного интеллекта с рынка, если они наносят ущерб или представляют неприемлемый риск».

Ранее профессор права и лидерства в юридической школе Гарвардского университета Лоуренс Лессиг выразил мнение, что не все модели искусственного интеллекта должны быть в свободном доступе. Чем искуснее становится ИИ, тем ближе человечество подходит к катастрофе.

Поделиться
Поделиться сюжетом
Источник материала
В ISW оцінили наслідки участі КНДР у війні Росії проти України
Хвиля
2024-11-02T16:15:49Z
Сибіга звернувся до Заходу через атаки “шахедів”
1News
2024-11-02T16:12:20Z
Загубив дрони, вбиті були окупанти: у РФ військовий майже наклав на себе руки
TSN
2024-11-02T16:06:48Z
З Росії безкоштовними автобусами привезли на вибори громадян Молдови - ЗМІ
УкраинФорм
2024-11-02T16:04:48Z
Залякує: Лукашенко намагається хитро розіграти антиросійську карту
24tv
2024-11-02T16:00:23Z
Зеленський може схилити Трампа на свій бік: WP розкрило, що думають в ОП про вибори у США
24tv
2024-11-02T15:57:51Z
Чому не можна казати "в тому числі", говоримо українською правильно
TSN
2024-11-02T15:57:48Z
Гарріс або Трамп: хто переможе і що чекає на Україну після виборів президента США — прогноз дипломата
TSN
2024-11-02T15:57:46Z
Скандального блогера Шавлюка відправили під варту: подробиці
TSN
2024-11-02T15:57:43Z
Українцям призначають субсидії на газ: скільки отримуватимуть сім'ї взимку 2024/2025
Знай
2024-11-02T16:06:55Z
Австралія передала Україні партію авіабомб – ЗМІ
ZN UA
2024-11-02T16:00:35Z
Міноборони допустило до експлуатації бойовий модуль «Таврія»
УкраинФорм
2024-11-02T15:57:27Z
Снаряди "любимчикам", а медиків у піхоту: Безугла знову різко "пройшлася" по Сирському
TSN
2024-11-02T15:57:21Z
Робота в Польщі: в країні вже з січня можуть змінитися плавила працевлаштування іноземців
ZN UA
2024-11-02T15:57:17Z
Програми ущільнили: у студентів в одному з облцентрів будуть довгі зимові канікули
24tv
2024-11-02T15:48:54Z
Міноборони дозволило використовувати у війську БМ «Таврія»
InternetUA
2024-11-02T15:31:49Z
В Україні заборонили рибалку: що загрожує порушникам із 1 листопада
Хвиля
2024-11-02T15:30:19Z
Україна разом з THALES Belgium вироблятиме протидронові ракети
1News
2024-11-02T15:12:11Z
У Генштабі назвали найгарячіший напрямок фронту
24tv
2024-11-02T16:00:31Z
У NYT оцінили, до чого може призвести втрата українськими військами Торецька
TSN
2024-11-02T15:57:56Z
Окупанти залишили позиції у Запорізькій області: "АТЕШ" про наслідки удару Сил оборони
TSN
2024-11-02T15:57:44Z
Бої за Курахове: у Deep State оцінили ситуацію
TSN
2024-11-02T15:57:24Z
6 сіл за 2 тижні: війська РФ закрили напівкотел біля Курахового - BILD
GlavRed
2024-11-02T15:54:16Z
У Сумах завершили розбирати завали багатоповерхівки, яку атакував російський дрон
УкраинФорм
2024-11-02T15:48:31Z
У Київській області погіршилася погода: люди без світла, вітер ламає дерева
24tv
2024-11-02T15:45:52Z
Багато місць, де можна ховати судна, – Андрющенко розповів, що відбувається в порту Маріуполя
24tv
2024-11-02T15:30:24Z
Росіяни отримали "по зубах" і тікають: в Атеш розповіли про удар ЗСУ на Запоріжжі
GlavRed
2024-11-02T15:27:06Z
Розчулили публіку до сліз: Анна Трінчер заспівала в дуеті з ветераном війни
24tv
2024-11-02T16:06:48Z
Щоденник «Молодості». День 7. Братня любов, італійські злидні та румунська революція
Детектор М
2024-11-02T16:00:17Z
Андрій Бєдняков назвав причину, через яку розпався його 10-річний шлюб з дружиною
TSN
2024-11-02T15:58:15Z
Відомий ведучий назвав MELOVIN зверхнім і ледь не послав в прямому ефірі: співак різко відповів
TSN
2024-11-02T15:57:22Z
Шаманська зізналася, скільки грошей витрачає на місяць: чи допомагає фінансово ексчоловік
24tv
2024-11-02T15:54:04Z
Арнольд Шварценеггер позбавив свого сина фінансової підтримки
GlavRed
2024-11-02T15:27:38Z
Джастін Бібер показав перше сімейне фото з маленьким сином
24tv
2024-11-02T15:03:57Z
Війна за ритуальний бізнес у столиці: хто захопив надприбутковий ринок? Оприлюднено скандальний фільм
ГЛАВКОМ NET
2024-11-02T14:51:49Z
У компанії Терена і команди шоу: Решетники показали, як дивилися прем'єру 13 сезону "Холостяка"
24tv
2024-11-02T14:18:16Z
У Вінниці затримали керівника інформагенства, якого підозрюють у перешкоджанні діяльності ЗСУ та шахрайстві
Украина Криминальная
2024-11-02T16:15:06Z
У Фінляндії вперше зафіксували ураган, без електрики залишилися тисячі будинків
УкраинФорм
2024-11-02T16:10:21Z
В Одесі чоловік посварився з жінками і вистрілив у шию перехожому
24tv
2024-11-02T16:09:36Z
Голова селищної ради обкрадав бюджет, схема діяла три роки: подробиці цмнічного інциденту
Политека
2024-11-02T16:00:04Z
На Київщині внаслідок атаки є пошкодження у 4 районах: люди без світла, згорів комбайн
24tv
2024-11-02T15:57:20Z
У Дніпропетровському районі прогримів вибух - поранено щонайменше 5 людей, у тому числі діти
Комсомольская правда
2024-11-02T15:46:17Z
У Житомирі затримали причетну до замаху на вбивство пенсіонерки
Украина Криминальная
2024-11-02T15:45:28Z
У Дніпропетровській області пролунали вибухи: серед постраждалих є діти
ZN UA
2024-11-02T15:34:39Z
У Сербії почали розслідування щодо обвалу даху на вокзалі, внаслідок якого загинули 14 людей
Европейская правда
2024-11-02T15:22:17Z
Назвали прянощі, які допоможуть контролювати рівень холестерину
24tv
2024-11-02T16:18:50Z
Обмеження цукру в дитинстві знижує ризик захворювань у дорослому віці
360ua.news
2024-11-02T16:03:47Z
«Бодіпозитив – шкідливий тренд». Розмова з ендокринологом про війну, стрес, діабет та ожиріння
ГЛАВКОМ NET
2024-11-02T15:21:09Z
Названо 5 найкращих чаїв для поліпшення рівня цукру в крові
AgroNews
2024-11-02T15:19:24Z
Вчені відкрили «чорну скриньку» трансплантації стовбурових клітин
Portaltele
2024-11-02T14:55:10Z
Причини раку знайдено: віруси виявилися небезпечнішими, ніж учені вважали раніше
Фокус
2024-11-02T14:06:59Z
Стоматологічна допомога: профілактика та лікування карієсу
Детектор М
2024-11-02T13:39:12Z
Нове відкриття про вплив кави та чаю на здоров'я серця
24tv
2024-11-02T13:33:35Z
Міф має бути зруйнований: вчені розповіли правду про причини подагри
Фокус
2024-11-02T13:30:06Z
В Україні різко зросли ціни на популярні продукти
AgroNews
2024-11-02T16:13:42Z
Тарифи на воду: скільки коштує кубометр води в листопаді
24tv
2024-11-02T16:09:35Z
Німеччина надала €2,4 мільйона на проєкт UNIDO з відновлення «зеленої промисловості» в Україні
УкраинФорм
2024-11-02T16:04:31Z
Понад 220 перевізників відключили від системи «Шлях» за схеми з виїзду чоловіків за кордон
УкраинФорм
2024-11-02T15:54:04Z
На деокупованій частині Херсонщини розмінували вже понад 70% аграрних земель
УкраинФорм
2024-11-02T14:46:00Z
Що впливає на зростання вартості квартир у новобудовах: ось як розраховують ціни
24tv
2024-11-02T14:39:35Z
Як обрати найвигідніший мобільний тариф
Знай
2024-11-02T14:30:56Z
Аграрії Донеччини завершують збір зернових
AgroNews
2024-11-02T14:24:00Z
Витік води на реакторі ЗАЕС: експертка з ядерної енергетики пояснила, чим це загрожує
24tv
2024-11-02T14:18:44Z
Можуть зіпсувати інтер'єр: комбінації кольорів, які ніколи не слід використовувати в оселі
24tv
2024-11-02T16:15:53Z
4 знаки зодіаку, в яких у листопаді почнеться нове життя
24tv
2024-11-02T16:03:58Z
Експерти назвали найбільш недооцінені міста Європи, які точно варто відвідати у 2025 році
24tv
2024-11-02T15:48:37Z
Перевірений бабусин метод: для чого хитрі господині кладуть фольгу до крупи
GlavRed
2024-11-02T15:27:04Z
Користуватися чи викинути: наскільки безпечна мікрохвильова пічка
Фокус
2024-11-02T14:36:48Z
Смачнюща закуска з тіста філо за 5 хвилин: кулінар дала геніальний рецепт
Политека
2024-11-02T14:33:27Z
Від замків до готелів: 5 найбільш відвідуваних привидами місць у Європі
Фокус
2024-11-02T14:30:28Z
Насолода у кожному шматочку: готуємо розкішний торт "Червоний оксамит" в домашніх умовах
24tv
2024-11-02T14:24:35Z
Ці 6 речей ніколи не можна класти у пральну машинку: вони зіпсуються
24tv
2024-11-02T14:00:34Z
Ексгравець Реала ледь не побився зі своїм тренером: відео інциденту
24tv
2024-11-02T16:03:05Z
Болонья вирвала перемогу над Лечче
Football.ua
2024-11-02T16:01:09Z
Менеджер Усика назвав потенційного суперника для українця після реваншу з Ф'юрі
TSN
2024-11-02T15:57:26Z
За крок до звільнення: Мілан виставив ультиматум екстренеру Шахтаря
24tv
2024-11-02T15:54:01Z
Баварія не зацікавлена у підписанні Діогу Кошти на заміну Ноєру
Football.ua
2024-11-02T15:31:24Z
«Карпати» розгромили «Лівий Берег» на старті 12-го туру футбольної Прем'єр-ліги
УкраинФорм
2024-11-02T15:28:43Z
Футболіст Андрій Пятов розлучається з дружиною після 19 років шлюбу
GlavRed
2024-11-02T15:27:14Z
Грам, Невертон та Сікан зіграють із перших хвилин проти Чорноморця
Football.ua
2024-11-02T15:16:15Z
Осасуна здолала Вальядолід завдяки реалізованому пенальті Будіміра
Football.ua
2024-11-02T15:01:52Z
Скоріш за все, ви це робили не так: експерти розповіли, як правильно пилососити
24tv
2024-11-02T16:18:55Z
До Землі наближається 88-метровий астероїд
УкраинФорм
2024-11-02T16:16:27Z
На морські вітряні станції відправлять підводні човни-дрони: що через це зміниться
InternetUA
2024-11-02T16:01:49Z
Як обрати плитоноску: ключові фактори для надійного захисту
Portaltele
2024-11-02T15:59:40Z
Чому мобільні пристрої потребують перезавантаження: пояснення від експерта
GlavRed
2024-11-02T15:39:13Z
У Всесвіту є "дзеркальний двійник": існував до Великого вибуху і час там рухається назад
Фокус
2024-11-02T15:15:01Z
У Швеції знайшли цвинтар вікінгів із похованнями в "кам’яних човнах"
24tv
2024-11-02T15:03:22Z
Реалізм GTA 6 вразить уяву: колишній дизайнер проєкту поділився деталями
InternetUA
2024-11-02T15:01:07Z
Забруднене повітря шкодить пам’яті та навчанню дітей
Portaltele
2024-11-02T14:55:42Z
Як 372-тонний кар’єрний самоскид проїхав Лас-Вегасом
AutoCentre
2024-11-02T15:28:08Z
Захищений гігант: General Motors показали найдорожчий американський позашляховик
Фокус
2024-11-02T14:12:43Z
Хто кому має дати дорогу: цікава задача з ПДР для досвідчених водіїв
GlavRed
2024-11-02T10:27:38Z
Вперше показали прототип компактного електромобіля Kia EV2
Portaltele
2024-11-02T09:55:30Z
Розсекречено електричний кросовер Toyota за $28 000
AutoCentre
2024-11-02T08:16:32Z
Просто та доступно: як зробити незамерзаючу рідину для омивача авто
GlavRed
2024-11-02T06:27:11Z
Більшість здивується: що означає логотип BMW та як він розшифровується
GlavRed
2024-11-02T04:27:07Z
На українському ринку нових авто змінився лідер: які марки були найпопулярнішими
ITC
2024-11-01T21:16:59Z
Водіям на замітку: про що свідчить незрозуміла наліпка під капотом біля фар
Хвиля
2024-11-01T20:39:51Z