MY.UAНовини
Горе-лікар світових масштабів: учені розповіли про смертельно небезпечні поради ШІ в медицині
Горе-лікар світових масштабів: учені розповіли про смертельно небезпечні поради ШІ в медицині

Горе-лікар світових масштабів: учені розповіли про смертельно небезпечні поради ШІ в медицині

Всесвітні системи охорони здоров'я стикаються з дедалі більшими потребами суспільства і ситуацією, що погіршується, з деякими хворобами. Хоча ідея розвантажити більшу їхню частину за допомогою ШІ здавалася привабливою, дійсність показала, що такі горе-помічники можуть принести людям більше шкоди, ніж користі.

Останні досягнення в галузі технологій штучного інтелекту, такі як GPT-4 від OpenAI, продовжують привертати увагу як своїми вражаючими можливостями, так і недоліками. Незважаючи на значні інвестиції та зусилля з розвитку, моделі ШІ, як і раніше, не справляються з такими базовими завданнями, як підрахунок літер у словах — відомим прикладом є нездатність GPT-4 надійно підрахувати, скільки разів буква "r" зустрічається в слові "strawberry". Подібні помилки можуть здатися тривіальними і навіть кумедними у звичайному застосуванні, але вони мають набагато серйозніші наслідки в таких галузях, як охорона здоров'я, пише Fururism.

У Фокус.Технології з'явився свій Telegram-канал. Підписуйтесь, щоб не пропускати найсвіжіші та найцікавіші новини зі світу науки!

У медичних установах такі інструменти, як MyChart, комунікаційна платформа, що використовується в лікарнях, включають в себе функції, засновані на штучному інтелекті, для складання повідомлень між лікарями і пацієнтами. MyChart дає змогу обмінюватися сотнями тисяч повідомлень на день, і зараз 15 000 лікарів використовують ШІ-інструмент платформи для створення відповідей. Однак дедалі більше занепокоєння викликає можливість помилок ШІ в подібних контекстах, коли навіть незначні помилки можуть призвести до небезпечних наслідків. Приклад, наведений лікарем Вінаєм Редді з UNC Health, ілюструє цей ризик: згенерована АІ відповідь помилково запевнила пацієнтку, що вона отримала вакцину від гепатиту В, незважаючи на те, що система не мала доступу до її записів про щеплення.

Критики підкреслюють, що інструмент штучного інтелекту не повідомляє пацієнтам, чи було їхнє повідомлення складено алгоритмом, що призводить до потенційних проблем із довірою. Як зазначає біоетик Атмея Джаярам, пацієнти можуть відчути себе обдуреними, якщо виявлять, що повідомлення, написані, як їм здається, "голосом" їхнього лікаря, насправді були складені штучним інтелектом. Це побоювання посилюється тим, що не існує федеральних норм, які б зобов'язували медичні рекомендації, які генерує ШІ, маркувати як такі, тому пацієнтам складно зрозуміти, від кого вони отримують інформацію — від людського фахівця чи автоматизованої системи.

Можливість шкідливих і небезпечних помилок, спричинених ШІ, не є гіпотетичною. Дослідження, проведене в липні й опубліковане в журналі JAMIA, виявило сім "галюцинацій", помилкових повідомлень, згенерованих ШІ, у 116 складених повідомленнях системи MyChart. Хоча це число може здатися невеликим, навіть одна помилка в медичному спілкуванні може мати катастрофічні наслідки. Подальші дослідження показали, що GPT-4, модель, на якій засновані ці системи, часто припускається помилок, коли її просять скласти повідомлення для пацієнта, що підкреслює ризик, який досі являє собою ШІ в таких критично важливих сферах, як охорона здоров'я.

Дедалі більше використання штучного інтелекту в медичній комунікації порушує ширші етичні та нормативні питання. Хоча ШІ здатний знизити адміністративне навантаження на медичних працівників, він також створює нові ризики, особливо за недостатніх запобіжних заходів. Без прозорості використання ШІ пацієнти можуть не знати, хто або що надає їм медичні консультації, що може підірвати довіру, яка має вирішальне значення у відносинах між медичними працівниками та хворими людьми.

Раніше Фокус писав про потенційну ознаку раку підшлункової залози, яку не варто ігнорувати. Цей рак є одним із найпотаємніших і має низький шанс виживання, тому раннє виявлення дуже важливе в ситуації, де на кону завжди стоїть життя.

Також Фокус писав про незвичайні властивості клітин, що спричиняють у нас рак крові й одночасно захищають нас від хвороби Альцгеймера. Стан крові, який зазвичай вважається небезпечним, несподівано виявився захистом від недуги, згідно з новим дослідженням.

Важливо! Ця стаття ґрунтується на останніх наукових і медичних дослідженнях і не суперечить їм. Текст має виключно інформаційний характер і не містить медичних порад. Для встановлення діагнозу обов'язково зверніться до лікаря.

Поділитися
Поділитися сюжетом
Джерело матеріала
Тайна с деньгами Папы Франциска для ВСУ: историк анонсировал новые интересные подробности
Апостроф
2025-04-21T14:27:08Z
Народная артистка Ада Роговцева сообщила о тяжелой утрате/Актриса рассказала, что ушел из жизни близкий ей человек
Апостроф
2025-04-12T16:17:49Z
”Дима Комаров – г*вноед”: продюсер-военный ВСУ нашел у телеведущего русскоязычный контент
Апостроф
2025-04-15T18:33:12Z
Компенсация расходов на коммунальные услуги: украинцы могут получить новую помощь
Знай
2025-04-21T16:12:03Z
В КМИС назвали преграду для голосования украинцев на выборах из-за границы
Апостроф
2025-04-21T17:15:12Z
Когда гром гремит: как помочь собаке пережить грозу, если она боится
Знай
2025-04-21T16:51:48Z
Сорвано наступление россиян на Сумщине - Сырский
Корреспондент
2025-04-21T15:39:25Z
Спасти жизнь только через минуту: украинцев предостерегли от смертельной опасности
Знай
2025-04-16T18:30:54Z
Опоздание не простят: украинцам дали три месяца, иначе пенсии не ждите
Знай
2025-04-21T04:30:57Z
Стало известно, на что США могут обменять четыре области в Украине
Comments UA
2025-04-12T15:18:21Z
Путин ответил на предложение Зеленского не бить по гражданским объектам и вспомнил удар по Сумам
Comments UA
2025-04-21T17:00:41Z
Без вступления в НАТО и с потерей Крыма: о чем говорят новые пункты "мирного плана" Трампа
Comments UA
2025-04-21T14:33:12Z
Трамп уволил вице-адмирала ВМС США Шошану Чатфилд: причина
ZN UA
2025-04-08T00:30:11Z
Крым не будет признан российским: у Зеленского прокомментировали слухи о скандальном предложении США
Comments UA
2025-04-21T17:27:47Z
Трамп сказал, когда раскроет детали "мирного соглашения" между РФ и Украиной
Европейская правда
2025-04-21T17:27:31Z
Захарова вспомнила слова Зеленского о «лохе» и обвинила его в трагедии в Сумах
Comments UA
2025-04-17T12:39:43Z
США передали Украине план Трампа по завершению войны: WSJ раскрыл подробности
Хвиля
2025-04-21T16:03:54Z
Сенатор требует отставки главы Пентагона на фоне утечек: Он угрожает нацбезопасности США
Лига
2025-04-21T14:31:54Z
Определили самую опасную позу в сексе для мужчин
Gazeta UA
2025-04-07T19:39:04Z
Когда лучше пить магний — утром или вечером
TSN
2025-04-21T04:25:33Z
В Украине расширили программу Доступные лекарства
Корреспондент
2025-04-12T18:51:26Z
Можно ли засыпать с включенным телевизором: эксперты шокировали ответом
Gazeta UA
2025-04-20T16:15:00Z
В Германии подтвердили в почти 600 случаев вред из-за COVID-вакцинации
Европейская правда
2025-04-21T17:24:16Z
От чего зависит стоимость пломбирования зубов: пять факторов
Gazeta UA
2025-04-21T17:12:43Z
Непригодных к службе могут неожиданно "вылечить": украинцам массово переписывают диагнозы
Знай
2025-04-12T19:30:30Z
Диетолог раскрыла рецепт блюда, которое убережет от рака
Comments UA
2025-04-12T14:39:43Z
Украинцам приходится экономить на еде, чтоб хватило на лекарства: в селах ситуация критическая
Знай
2025-04-20T17:30:52Z
80-летний Майкл Дуглас разводится с Кэтрин Зетой-Джонс: что разрушило 25-летний брак — СМИ
TSN
2025-04-21T04:25:04Z
”Обменять на наших подонков”: смелая речь россиянки Дарьи Козыревой натолкнула украинскую актрису на идею
Апостроф
2025-04-20T09:30:34Z
Екатерина Кузнецова сказала, что произошло с ее квартирой в Москве
Gazeta UA
2025-04-17T16:36:17Z
68-летняя актриса Нина Набока удивила, почему живет со студентом под одной крышей
TSN
2025-04-12T18:03:18Z
Народная артистка Украины призвала отправить на фронт подростков из-за скандала с российскими песнями
Апостроф
2025-04-21T16:36:52Z
Умерла заслуженная артистка Украины Изабелла Павлова-Рушковская
Факти ICTV
2025-04-21T15:36:34Z
Джон Траволта растрогал фото с покойным сыном и довел до слез обращением к нему
TSN
2025-04-14T22:18:17Z
Возвращение Декстера Моргана на первых кадрах сериала "Декстер: Воскрешение"
GameMag
2025-04-16T02:16:13Z
Звезда фильма "Васаби" Реко Хиросуэ испытывала приемы на медсестре: актрису задержали за драку
Знай
2025-04-19T15:51:06Z
Вместо "спасибо" - нож: в Винницкой области женщина спасла мужчину, а он ее убил
Новости Украины
2025-04-12T18:33:05Z
В Польше загорелся дом: есть жертвы, среди эвакуированных - украинцы
Корреспондент
2025-04-14T19:25:45Z
Месть за Сумы продолжается: какая область РФ содрогалась от взрывов
Comments UA
2025-04-17T06:15:22Z
Врачи были удивлены, когда на рентгене увидели, что проглотил 11-летний мальчик
Comments UA
2025-04-20T10:45:09Z
Подросток под Киевом убегал от полиции и совершил ДТП
Корреспондент
2025-04-21T17:18:38Z
У берегов Израиля акула напала на человека
Корреспондент
2025-04-21T16:27:55Z
Россиянину, который изнасиловал жительницу Киевской области, и сообщнику дали по 12 лет
Лига
2025-04-21T08:03:33Z
Ночная атака россиян на Днепр унесла жизни трех человек
Gazeta UA
2025-04-17T04:36:05Z
В Саратове после взрывов загорелся аэродром - СМИ
Корреспондент
2025-04-12T18:42:33Z
Ходжес назвал единственного человека в Украине, который все еще способен разрушить Крымский мост
Comments UA
2025-04-11T14:00:32Z
Известный волонтер указал на положительный момент в истории с гибелью украинского пилота F-16
Апостроф
2025-04-12T13:18:23Z
РФ обстреляла КАБами регионы Украины сразу после "Пасхального перемирия"
Корреспондент
2025-04-21T05:42:14Z
Погиб украинский пилот F-16
Апостроф
2025-04-12T20:58:52Z
Любовный гороскоп для всех знаков Зодиака на неделю с 21 по 27 апреля 2025 года
Фокус
2025-04-21T17:15:46Z
Хаотично и без плана: в Крыму оккупанты активно перемещают технику и средства ПВО
Факти ICTV
2025-04-21T17:12:04Z
Несмотря на объявленное перемирие, российские войска продолжают обстрелы по всем направлениям - ЦПД
Gazeta UA
2025-04-19T17:54:31Z
Одесса раньше была защищена лучше - Зеленский
Корреспондент
2025-04-16T00:03:09Z
Российские силы пытаются прорвать линию обороны ВСУ в Запорожской области
Gazeta UA
2025-04-15T06:39:31Z
Обязательно пересадите в новый горшок: какие комнатные растения любят весеннее "обновление"
Апостроф
2025-04-21T15:06:19Z
Восемь пород собак, которых считают самыми спокойными
Gazeta UA
2025-04-20T14:46:29Z
Пасхальный гороскоп: какая вы паска по знаку зодиака
Comments UA
2025-04-21T05:51:26Z
Спасите свой урожай: вот чем следует обработать деревья после заморозков
Telegraf
2025-04-12T15:06:31Z
Інтерпайп нарощує присутність на ринку Близького Сходу та Північної Африки
AgroNews
2025-04-21T17:19:43Z
Гороскоп на вторник 22 апреля 2025 года
UAToday
2025-04-21T15:30:41Z
Те самые ириски из детства: рецепт конфет, вкус которых мы потеряли, но можем вернуть
Знай
2025-04-16T04:51:06Z
Как подобрать цвет дивана для гостиной: удачные комбинации
Gazeta UA
2025-04-21T14:36:58Z
Как приготовить скандинавскую рыбную уху по рецепту шеф-повара
Gazeta UA
2025-04-21T14:24:26Z
Патрульная полиция Киева провела задержание с наручниками бывшего футболиста Алиева
ZN UA
2025-04-12T18:33:09Z
Буяльский прокомментировал яркий гол Ярмоленко
Корреспондент
2025-04-19T05:46:00Z
В Руане Свитолина обыграла всех, не проиграв ни единого сета
Корреспондент
2025-04-20T20:36:04Z
«Усика из меню не уберём!» - в Донецке в кафе «вольничали», пока не пришла «полиция». ФОТО
Новости Украины
2025-04-13T19:27:57Z
В Байере высказались по поводу слухов о связи Алонсо с Реалом
Корреспондент
2025-04-21T17:24:01Z
Свитолина улучшила позицию в рейтинге WTA после победы на турнире во Франции
ZN UA
2025-04-21T16:57:54Z
Евро-2025 по тяжелой атлетике: Кисиль и Бородина выбороли три медали
Корреспондент
2025-04-21T15:42:54Z
Гарсия выразил желание провести повторное сражение с Хейни
Корреспондент
2025-04-21T15:42:15Z
Не хочу предполагать: тренер Барселоны оценил состояние Левандовски
Корреспондент
2025-04-21T15:27:18Z
Ціна на газ з 1 травня 2025: чого очікувати споживачам
AgroNews
2025-04-21T07:13:32Z
Ситуация изменилась: какой теперь дают прогноз роста экономики Украины
Comments UA
2025-04-17T13:57:33Z
Тарифы на газ на лето: Кабмин принял важное решение
Апостроф
2025-04-11T13:39:52Z
В Украине могут резко упасть цены на топливо в случае перемирия на Черном море - совладелец сети АЗС
Gazeta UA
2025-04-19T11:03:18Z
Был танкер оккупанта, а стал 6,4 млн грн в бюджет Украины
Comments UA
2025-04-21T17:24:50Z
Время менять доллары: украинцам объяснили, куда лучше вкладывать деньги
Хвиля
2025-04-21T17:06:15Z
На международные автобусные маршруты подано 400 заявок - Кулеба
Корреспондент
2025-04-21T17:00:51Z
Гривна на новом историческом минимуме по отношению к евро
Корреспондент
2025-04-21T16:30:31Z
Украина импортирует 98% дронов из Китая
Корреспондент
2025-04-21T16:00:37Z
От внешности зависело все: ученые выяснили, какие бороды вызывают больше доверия
Фокус
2025-04-19T15:45:55Z
Авторы Barotrauma анонсировали Frostrail — кооперативный хоррор про выживание машиниста в ледяной пустоши
GameMag
2025-04-12T14:42:34Z
ИИ посоветовал готовиться к концу света
Корреспондент
2025-04-21T02:12:41Z
В Македонии археологи нашли 2500-летний город
Корреспондент
2025-04-10T19:09:54Z
Cyberpunk 2077 от CD Projekt RED — первая игра с поддержкой DLSS на Nintendo Switch 2
GameMag
2025-04-21T16:51:23Z
Стало відомо, які 4 продукти допоможуть вам дожити до 100 р
AgroNews
2025-04-21T16:24:47Z
Исследование Astrum Entertainment: 85% российских геймеров не готовы платить за игру больше 4 тысяч рублей
GameMag
2025-04-12T18:58:41Z
S.T.A.L.K.E.R. 2 получил официальную «дорожную карту» — новое оружие, лут из мутантов и многое другое
ITC
2025-04-14T14:25:37Z
Официально: Ubisoft издаст инди-рогалик Morbid Metal
GameMag
2025-04-10T18:49:55Z
Самый маленький и дешевый кроссовер Mazda показали до презентации
Фокус
2025-04-19T09:42:29Z
Инженеры разобрали батареи Tesla и BYD: какие выводы они сделали
UAToday
2025-04-12T13:03:39Z
Единственный в Украине: известный украинский бодибилдер приобрел эксклюзивный суперкар
Telegraf
2025-04-21T16:54:36Z
Формула-1: личный зачет пилотов в 2025 году
Корреспондент
2025-04-21T11:45:19Z
Водитель-читер из Львова использовал смарт-очки Meta Ray-Ban, чтобы сдать экзамен на права
ITC
2025-04-21T09:13:26Z
Как провести чернение шин на авто с помощью одного дешевого средства
Gazeta UA
2025-04-21T08:54:00Z
В Украине появился недорогой итальянский кроссовер с нестандартным дизайном
Фокус
2025-04-21T07:42:23Z
Гран-при Саудовской Аравии: 24-летний гонщик Макларен Пиастри - первый
Корреспондент
2025-04-20T22:03:32Z
10 японских авто, ставших хитами на рынке подержанных машин
UAToday
2025-04-20T14:03:58Z