MY.UAНовини
Горе-лікар світових масштабів: учені розповіли про смертельно небезпечні поради ШІ в медицині
Горе-лікар світових масштабів: учені розповіли про смертельно небезпечні поради ШІ в медицині

Горе-лікар світових масштабів: учені розповіли про смертельно небезпечні поради ШІ в медицині

Новина російською

Всесвітні системи охорони здоров'я стикаються з дедалі більшими потребами суспільства і ситуацією, що погіршується, з деякими хворобами. Хоча ідея розвантажити більшу їхню частину за допомогою ШІ здавалася привабливою, дійсність показала, що такі горе-помічники можуть принести людям більше шкоди, ніж користі.

Останні досягнення в галузі технологій штучного інтелекту, такі як GPT-4 від OpenAI, продовжують привертати увагу як своїми вражаючими можливостями, так і недоліками. Незважаючи на значні інвестиції та зусилля з розвитку, моделі ШІ, як і раніше, не справляються з такими базовими завданнями, як підрахунок літер у словах — відомим прикладом є нездатність GPT-4 надійно підрахувати, скільки разів буква "r" зустрічається в слові "strawberry". Подібні помилки можуть здатися тривіальними і навіть кумедними у звичайному застосуванні, але вони мають набагато серйозніші наслідки в таких галузях, як охорона здоров'я, пише Fururism.

У Фокус.Технології з'явився свій Telegram-канал. Підписуйтесь, щоб не пропускати найсвіжіші та найцікавіші новини зі світу науки!

У медичних установах такі інструменти, як MyChart, комунікаційна платформа, що використовується в лікарнях, включають в себе функції, засновані на штучному інтелекті, для складання повідомлень між лікарями і пацієнтами. MyChart дає змогу обмінюватися сотнями тисяч повідомлень на день, і зараз 15 000 лікарів використовують ШІ-інструмент платформи для створення відповідей. Однак дедалі більше занепокоєння викликає можливість помилок ШІ в подібних контекстах, коли навіть незначні помилки можуть призвести до небезпечних наслідків. Приклад, наведений лікарем Вінаєм Редді з UNC Health, ілюструє цей ризик: згенерована АІ відповідь помилково запевнила пацієнтку, що вона отримала вакцину від гепатиту В, незважаючи на те, що система не мала доступу до її записів про щеплення.

Критики підкреслюють, що інструмент штучного інтелекту не повідомляє пацієнтам, чи було їхнє повідомлення складено алгоритмом, що призводить до потенційних проблем із довірою. Як зазначає біоетик Атмея Джаярам, пацієнти можуть відчути себе обдуреними, якщо виявлять, що повідомлення, написані, як їм здається, "голосом" їхнього лікаря, насправді були складені штучним інтелектом. Це побоювання посилюється тим, що не існує федеральних норм, які б зобов'язували медичні рекомендації, які генерує ШІ, маркувати як такі, тому пацієнтам складно зрозуміти, від кого вони отримують інформацію — від людського фахівця чи автоматизованої системи.

Можливість шкідливих і небезпечних помилок, спричинених ШІ, не є гіпотетичною. Дослідження, проведене в липні й опубліковане в журналі JAMIA, виявило сім "галюцинацій", помилкових повідомлень, згенерованих ШІ, у 116 складених повідомленнях системи MyChart. Хоча це число може здатися невеликим, навіть одна помилка в медичному спілкуванні може мати катастрофічні наслідки. Подальші дослідження показали, що GPT-4, модель, на якій засновані ці системи, часто припускається помилок, коли її просять скласти повідомлення для пацієнта, що підкреслює ризик, який досі являє собою ШІ в таких критично важливих сферах, як охорона здоров'я.

Дедалі більше використання штучного інтелекту в медичній комунікації порушує ширші етичні та нормативні питання. Хоча ШІ здатний знизити адміністративне навантаження на медичних працівників, він також створює нові ризики, особливо за недостатніх запобіжних заходів. Без прозорості використання ШІ пацієнти можуть не знати, хто або що надає їм медичні консультації, що може підірвати довіру, яка має вирішальне значення у відносинах між медичними працівниками та хворими людьми.

Раніше Фокус писав про потенційну ознаку раку підшлункової залози, яку не варто ігнорувати. Цей рак є одним із найпотаємніших і має низький шанс виживання, тому раннє виявлення дуже важливе в ситуації, де на кону завжди стоїть життя.

Також Фокус писав про незвичайні властивості клітин, що спричиняють у нас рак крові й одночасно захищають нас від хвороби Альцгеймера. Стан крові, який зазвичай вважається небезпечним, несподівано виявився захистом від недуги, згідно з новим дослідженням.

Важливо! Ця стаття ґрунтується на останніх наукових і медичних дослідженнях і не суперечить їм. Текст має виключно інформаційний характер і не містить медичних порад. Для встановлення діагнозу обов'язково зверніться до лікаря.

Джерело матеріала
Зависимость, въевшаяся в подсознание: почему пользователи смартфонов становятся рассеянными
Фокус
Telegram-канал "Джокер" заблокировали: кому он принадлежит и чем запомнился?
Telegraf
Миру явилась новая воительница: Детали PS5-эксклюзива Ghost of Yotei со страницы игры в PS Store
GameMag
Глава РФС: Российский «аналог симулятора FIFA» выпустят до 2030 года
GameMag
Vodafone поднимает тарифы: во сколько обойдутся звонки и интернет в апреле
Знай
В магнитном поле Земли найдена огромная растущая аномалия: NASA наблюдает за ней
Фокус
”Твиттер заплатил мне 1200 долларов за мои посты”. Как украинский профессор заработал в соцсети X
Апостроф
Смартфоны не воруют внимание людей: ученые опровергли распространенный миф
Фокус
Samsung поразила новинкой: монитор без очков превращает 2D в 3D
Знай
Гороскоп на понедельник 31 марта 2025 года
UAToday
Маникюр с подвохом: как гель-лак может испортить ногти и здоровье
Знай
Гороскоп на 31 марта: Раки преодолеют страхи, Стрельцов ждет финансовое благополучие
Telegraf
Свеклу спасет средство за 20 гривен: какое удобрение нужно вносить в грунт
Telegraf
Берем крабовые палочки и готовим роскошную закуску: гости точно спросят рецепт
Telegraf
Какие деревья не стоит сажать возле дома. Что с ними не так
Gazeta UA
Полосатый пирог на манке: рецепт сладкого спасения без яиц и хлопот
Знай
Накормите всю семью: такие мясные бризоли получаются сытными и вкусными
Telegraf
Любовь без возраста: как разница в годах влияет на отношения и их будущее
Знай
На Полтавщине подростки издевались на 10-летним ребенком: дело дошло до омбудсмена
Фокус
В Мьянме, где погибли сотни людей, произошли новые землетрясения
Комсомольская правда
Землетрясение в Мьянме привело к самым масштабным разрушениям в Азии за сто лет – Красный Крест
ZN UA
В Миннесоте частный самолет рухнул на жилой дом: пассажиры не выжили
Фокус
В Харькове взрывы из-за атаки "Шахедов": число пострадавших возросло, есть погибший
UAToday
История «самого дерзкого преступника Беларуси»: сбежал из суда, отобрав пистолет у конвоира, и годами был в бегах
Украина Криминальная
В Днепре возросло количество раненых в результате российского удара
Апостроф
Обстрел Днепра: на восстановление ресторана "Бартоломео" собирают средства
Comments UA
Погибшие в Харькове, взрывы на Киевщине и рои "Шахедов": что известно о ночной атаке по Украине
Telegraf
Лунин оказался в эпицентре скандала в Испании
Telegraf
Карпаты разгромили Черноморець в дебютном матче Кучера
Корреспондент
НБА может создать новый баскетбольный турнир в Европе
ZN UA
Лунин попал в досадную ситуацию из-за недостаточного уровня знания испанского
Корреспондент
Российский топ-чиновник умер во время хоккейного матча: гнал россиян на войну
Telegraf
"Реал" согласовал бесплатный переход звезды "Ливерпуля" и сборной Англии – СМИ
ZN UA
Защитник Баварии выбыл к концу сезона
Корреспондент
ПСЖ стал первым участником следующего розыгрыша Лиги чемпионов: детали
Факти ICTV
11 лет назад ультрас "Металлиста" и "Шахтера" исполнили легендарную песню про Путина. ВИДЕО
Новости Украины
Наступление РФ "захлебнулось" на Покровском направлении
Корреспондент
В Украине 31 марта будет тепло, но ряд регионов накроют дожди
Комсомольская правда
Оккупанты обстреляли автомобиль "Новой почты" в Донецкой области
ZN UA
В Украине ограничат скорость для водителей с 1 апреля: список дорог
Хвиля
ВСУ прорвали первую линию обороны армии противника на Белгородщине и продвинулись на 3-4 км – Reuters
Новости Украины
Портрет звезды на целую стену: как выглядит дом, где жила Гурченко в Харькове
Telegraf
Оккупанты накопили силы для крупного наступления: что противник уже захватил в Запорожской области
Новости Украины
Партизаны узнали о массовой гибели россиян на учениях в Херсонской области
Апостроф
В Днепре врачи 5 часов вытаскивали 10 см гвоздь из мозга военного – прошел с ним 8 км
Знай
Совместить военную службу и съемки: как это делают Салем, Сова, Девизоров и другие звезды
Комсомольская правда
Маша Полякова рассказала про свидание с Артемом Пивоваровым: "Если ты хочешь..."
Знай
Раба Изаура: взгляд на бразильскую литературу через окно фазенды
ZN UA
Евровидение-2025: определены песни всех 37 стран-участниц
Апостроф
Украинский актер наткнулся на мурал с Зеленским в Нью-Йорке
Апостроф
"Меня унизили тем, что зачислили в мою бригаду Нацгвардии Козловского": продюсер рассказал о позоре
Апостроф
Певица СолоХа в третий раз станет мамой
Комсомольская правда
София Ротару восхитила фото невестки и публично обратилась к ней
TSN
Джамала показала сразу троих детей и мужа на особом празднике старшего сына
TSN
Союзники планируют разместить воздушные и морские силы в Украине
Корреспондент
До миллиона мусульман перекрыли улицы Москвы. ФОТО
Новости Украины
Обязательное военное обучение: каких студентов могут освободить от базовой подготовки
Знай
Мужчина съел 35 000 бургеров из McDonald's и установил мировой рекорд: как это повлияло на его здоровье
Фокус
Пенсии, тарифы на коммуналку, выплаты ВПЛ, субсидии: какие изменения ждут украинцев с 1 апреля
Хвиля
Коллаборанты, сидящие в колониях, получают зарплату: Золкин рассказал подробности
Фокус
В Умань съехались хасиды на празднование годовщины со дня рождения основателя брацлавского хасидизма
ZN UA
Алкоголь и имя: какие женщины поддаются слабостям из-за того, как их назвали
Знай
"Кто-то дотянул до перевода часов": украинского телеведущего поразила елка на мусорнике
Апостроф
Эта распространенная медицинская практика "убивает" микрофлору кишечника
Comments UA
Синяки появляются без травм: о каких проблемах со здоровьем сигнализирует симптом
Comments UA
Почему вредно каждый день пить кофе: ТОП-10 причин
Comments UA
Мурлыканье кошек: загадка природы и важный сигнал для хозяев
Знай
Этим знакам Зодиака категорически запрещено употреблять рыбу
Comments UA
Сколько овсянки можно съедать, чтобы не набрать лишний вес
Gazeta UA
Пить или не пить коллаген: какого эффекта можно ожидать, противопоказания к употреблению
UAToday
Cпасение от болезни Альцгеймера: им станет наш биоэнергетический возраст, согласно ученым
Фокус
Березовый сок не так полезен, как все считают: кому может навредить весенний напиток
Comments UA
Ошибки с субсидией могут привести к суду и аресту имущества: кого заставят вернуть деньги
Знай
Погашение всех долгов в зеленой энергетике откроет путь для новых инвестиций в отрасль - Конеченков
Апостроф
В приложении Укрзалізниці возобновили продажу льготных билетов для лиц с инвалидностью
Факти ICTV
404 - это не ошибка, а цена за пачку: супермаркеты обновили ценники кофе, молока, сахара и сливок
Знай
Вывозят зерно под ноль: РФ опустошает украинские элеваторы перед новым урожаем
Новости Украины
Можно получить десятки тысяч гривен: ПриватБанк заплатит за поврежденное жилье
Знай
Россия цинично оправдывает удары по энергетике Украины
Comments UA
Рыба в рационе – новый символ роскоши: супермаркеты огорошили ценниками
Знай
Пенсия в Украине: какими будут начисления средств, если получать зарплату 7 тысяч гривен
Политека
Первый серийный летающий автомобиль успешно прошел испытания
UAToday
Для жестких и экстремальных дорог: автолюбителям показали копию Land Roover с двигателем BMW
Знай
В Украине продают танк Т-10: сколько он стоит
TSN
Российским ударом по Днепру уничтожено детище Маска: фото
TSN
Не битый и с кожаным салоном: на Днепропетровщине продают танк, доставшийся от деда
Comments UA
При каких условиях водители могут остаться без прав из-за состояния автомобильных фар
UAToday
В Украине появился оригинальный семейный электрокар Zeekr с запасом хода 700 км
Фокус
Элитный спа на колесах за 20 млн грн: Mercedes Sprinter превратили во внедорожный шикарный автодом
Знай
Toyota заявила о рекордном производстве автомобилей
Корреспондент
Зеленский раскрыл свои доходы
Апостроф
Трамп вскоре снова поговорит с Путиным
Европейская правда
РФ готовилась применить "ядерку" в 2022 году, чтобы удержать Крым - NYT
Корреспондент
Сибига о требованиях РФ: не примем ничего, что оставит Украину слабой
Европейская правда
Зеленский еще пожалеет, что желает смерти Путину, - британский политолог. ВИДЕО
Новости Украины
Перемирие не будет длительным: почему РФ возобновит войну
Comments UA
Пентагон считает Китай "главной угрозой"
Корреспондент
Потеряют отсрочку с 1 апреля: кого могут вызвать в ТЦК и мобилизовать
Знай
Путин разозлил Трампа: что произошло
Comments UA