Искусственный интеллект в медицине: чего больше — рисков или пользы?

Итак, хорошая новость заключается в том, что мы открыли секрет бессмертия.
Плохая новость заключается в том, что это не для нас.

Джеффри Хинтон (Geoffrey Hinton), «крестный отец» искусственного интеллекта

В наших предыдущихпубликациях мы уделили внимание стратегиями политике, с помощью которых государства регулируют создание и применение инструментов искусственного интеллекта (ИИ). Среди самых важных видов человеческой деятельности, в которых уже применяется ИИ, нужно назвать медицину. Инновации в сфере здравоохранения быстро развиваются, чаще всего благодаря невероятному потенциалу ИИ, который становится все более открытым, справедливым и доступным во всем мире.

Как свидетельствуют эксперты влиятельного аналитического центра MacKinsey & Company, применение ИИ может разблокировать на триллионы долларов стоимость от банковских услуг до медико-биологических исследований.

Уточняя экономическую составляющую, эксперты еще летом 2023 года утверждали, что генеративный ИИ может оказывать значительное влияние на фармацевтическую и медицинскую промышленность — от 60 до 110 млрд долл. в год. 

В разных странах мира население (пациенты и активная общественность) по-разному осведомлены о том, что такое ИИ, и имеют разные взгляды на это изобретение. В сентябре 2023 года в Японии, которая является одной из самых передовых стран по развитию ИИ, были опубликованы показательные результаты исследования Комиссии по привлечению пациентов и общественности.

Пациенты и представители общественности озвучили 55 ожиданий (!) и 52 обеспокоенности (!) в отношении ИИ.

В шести группах ожиданий были названы следующие: 

• улучшение администрирования больницы (в частности повышение эффективности работы больниц);
• улучшенное качество ухода (в том числе усовершенствование технологий лечения и легкая диагностика и лечение);
• позитивные изменения в ролях и отношениях (в частности дружеские отношения с ИИ и более тесные — с экспертами);
• снижение затрат (например, уменьшение финансовой нагрузки на пациентов);
• лучший опыт пациента (облегчение доступа к диагностике и лечению);
• уменьшение неравенства (в том числе отличия в уровне больниц и качества медицинского обслуживания).

В то же время в шести группах опасений называли такие:

• обеспокоенность в отношении изменений в сфере здравоохранения (например, что произойдет с пациентами и врачами в эпоху, когда ИИ превзойдет врачей?);
• ограничение и утрата автономии (в частности утрата вариантов и возможностей лечения);
• технические проблемы и ответственность (в том числе неправильный диагноз, несчастные случаи и проблемы с ответственностью);
• появление неравенства (в частности между людьми, знакомыми и незнакомыми с ИИ);
• проблемы управления данными (риск утечки личной информации и проблемы с обработкой личной информации);
• затраты на внедрение (недоверие к системе).

Хотя количество опрошенных было относительно небольшое, его результаты могут быть использованы в любой стране, которая планирует осуществлять регулирование ИИ.

Хорошие примеры — хорошие новости

ИИ и диагностика заболеваний

Несколько лет применения ИИ в сфере здравоохранения дали возможность получить определенные полезные результаты. Одним из самых важных преимуществ ИИ для практической медицины является уже улучшенная скорость и точность диагностики. Вместе с тем быстрая и точная обработка больших объемов данных облегчает медицинским работникам диагностику и лечение заболеваний.

Инструменты ИИ уже могут анализировать медицинские изображения, такие как рентгеновские снимки и МРТ, чтобы обнаружить закономерности и аномалии, которые человек-врач может пропустить. Это может привести к более ранней и точной диагностике, что в свою очередь приведет к лучшим результатам лечения пациентов. 

ИИ и клинические испытания новых лекарств

Как сообщает агентство Reuters из Британии, крупные производители лекарств уже используют ИИ, чтобы, например, быстрее находить пациентов для клинических испытаний или уменьшать количество людей, необходимых для тестирования лекарств, ускоряя их разработку и потенциально экономя миллионы долларов. 

ИИ и научные исследования в сфере медицины

Уже сотни компаний в разных странах используют ИИ для исследований в области медицины. Разительные результаты достигнуты в использовании систем ИИ для исследований методов диагностики пациентов, например, в области визуально ориентированных специальностей, таких как дерматология. Исследования показали, что системы ИИ способны классифицировать рак кожи на уровне компетенции, сравнимом с дерматологами. Притом нужно намного меньше времени для обучения модели по сравнению с врачами, которые годами учились в медицинской школе, а также полагались на опыт, приобретенный во время обучения и диагностики пациентов в течение десятилетий.

Немецкий производитель лекарства Bayer сообщил, что использовал ИИ, чтобы сократить на несколько тысяч количество участников для последнего испытания «Асундексиана», экспериментального препарата, предназначенного для длительного снижения риска инсульта у взрослых. Он использовал ИИ, чтобы связать результаты испытаний на средней стадии с реальными данными миллионов пациентов в Финляндии и Соединенных Штатах и предусмотреть долгосрочные риски в популяции, похожей на испытание.

Может ли ИИ помогать пациентам в виртуальных палатах?

Виртуальные палаты (также известные как больница дома) дают возможность пациентам безопасно и удобно получать необходимую помощь дома, а не в больнице. Национальная служба здравоохранения Великобритании (NHS) на государственном уровне успешно внедряет виртуальные палаты для поддержки людей в месте, которое они называют домом, включая дома для людей преклонного возраста.

Заменит ли ИИ консультации врача?

Наиболее вероятно, это произойдет не завтра. Но в Американском колледже радиологии уже можно натолкнуться на объявление о вакансии радиолога с такими, например, требованиями: «Должен иметь сертификацию Американского совета радиологии и быть хорошо подготовленным радиологом, который в восторге от будущего, где радиологов будут поддерживать ИИ и машинное обучение».

Используется ли ИИ в украинской медицине?

В Одессе стартовал пилотный проект по использованию ИИ в медицине. Речь идет о проекте по телемедицине BrainScan. Эта система анализирует изображение компьютерной томографии в автоматическом режиме и выявляет патологические изменения, значительно ускоряет процесс диагностики заболеваний или повреждений головного мозга, когда время является критическим фактором.

Украинские ученые считают перспективным использование ИИ в таких направлениях медицины, как диагностика, офтальмология, кардиология, ортопедия, стоматология.

Риски. Или о плохом

В Национальной системе здравоохранения Великобритании не только заявляют, что страна может стать мировым лидером в сфере применения ИИ в здравоохранении, но в то же время предполагают, что это несет риски. Во-первых, будет использоваться ИИ, который (возможно) является опасным. Во-вторых, и это вероятнее всего, — возможность использовать ИИ для помощи пациентам будет утрачена или отложена, поскольку как клиницисты, так и новаторы сдерживаются в ожидании внедрения нормативно-правовой базы, которая даст им возможность развиваться.

В отчете Организации экономического сотрудничества и развития (ОЭСР) 2023 года «Искусственный интеллект в здравоохранении: огромный потенциал, огромные риски» названы еще несколько ключевых рисков: 

• нечеткая ответственность за управление ИИ сегодня и его эволюцию в здравоохранении и в других секторах; 
• уменьшение возможностей рабочей силы в сфере здравоохранения; 
• человеческие и технические ресурсы, инвестированные в отдельные решения в сфере здравоохранения, которые приносят пользу только определенной части населения; 
• алгоритмы, являющиеся необъективными или непрозрачными; 
• утечка персональных данных из-за нарушения конфиденциальности и безопасности/киберугрозы.

Как государства предотвращают возникновение проблем во время применения ИИ в сфере здравоохранения

Выглядит так, что лидерами развития ИИ по количеству принятых законов, регулирующих отношения в сфере здравоохранения, на сегодняшний день являются США. По данным Информационного центра электронной неприкосновенности личной жизни (EPIC), уже в 2020–2022 годах было принято шесть законов штатов, содержание которых, в частности, касалось регулирования ИИ как части комплексных законопроектов о конфиденциальности потребителей, в частности пациентов.

Семь штатов, выражая скептицизм в отношении того, что алгоритмы могут принимать лучшие решения, чем медицинские работники, когда речь идет о здравоохранении, предложили законопроекты, регулирующие использование ИИ в услугах, касающихся физического и психического здоровья. Например, законопроект штата Иллинойс требует, чтобы алгоритмы ИИ, используемые для диагностики пациентов, были сертифицированные и демонстрировали достижение точных результатов. Это также даст пациентам право знать, что алгоритм поставил им диагноз, и отказаться от его использования.

Как мы писали в предыдущих публикациях, в некоторых странах, в частности Великобритании, государство не спешит принимать законы именно для регулирования ИИ. 

Но надежная система регулирования является ключевой для гарантирования безопасности и эффективности технологий, что способствует надежности систем ИИ. С учетом аксиоматической необходимость такого регулирования и для уменьшения рисков в стране внедрена и уже действует вполне надежная, эффективная и прозрачная система регулирования, которая включает: (1) регулирование продуктов ИИ; (2) регулирование учреждений здравоохранения и (3) регулирование деятельности медицинских работников.

Во избежание сложности и запутанности в разветвленном нормативном ландшафте для разработчиков и пользователей ИИ, регулировочные органы Великобритании вместе с международными органами создают учебные материалы о регулировании технологии ИИ и дают доступ к информации, необходимой разработчикам и поставщикам ИИ, чтобы убедиться, что продукты соответствуют нормативным требованиям.

Нормативные требования к продуктам ИИ различаются в зависимости от того, классифицируется ли продукт ИИ как медицинское устройство. Медицинские устройства должны быть зарегистрированы в британском Агентстве по регулированию лекарственных средств и медицинских товаров (MHRA) и подпадают под действие Правил, касающихся медицинских устройств, UK Medical Device Recognition (MDR) 2002.

В то время как медицинские устройства регулируются MHRA, учреждения здравоохранения регулирует Комиссия по качеству медицинского обслуживания (CQC). CQC решает проблемы контроля и проверки услуг и оценивает, являются ли они безопасными, эффективными и хорошо администрированными. Она публикует стандарты медпомощи и гарантирует, что услуги соответствуют основным стандартам, не опустятся ниже их.

Органы регулирования деятельности медицинских работников, такие как Генеральный медицинский совет (GMC)и Совет медсестер и акушерок (NMC), отвечают за установление стандартов компетентности и поведения, а также за оценивание качества образования и учебных курсов, чтобы гарантировать, что медицинские работники имеют навыки и знания для безопасной и компетентной практики.

В Британии с 24 октября 2023 года в рамках Национальной системы здравоохранения действует специальная инструкция, устанавливающая минимальные требования для ухода в виртуальных палатах за людьми с сердечной недостаточностью. 

Не отстают от национальных правительств и международные организации. Уже в январе 2024 года Всемирная организация здравоохранения (ВОЗ) выпустила новые рекомендации,  касающиеся этики и управления большими мультимодальными моделями (LMM) — типом быстрорастущей технологии генеративного искусственного интеллекта (ИИ) с применением во всей системе здравоохранения. Руководство содержит более 40 рекомендаций для рассмотрения правительствами, технологическими компаниями и поставщиками медицинских услуг, чтобы обеспечить надлежащее использование LMM для укрепления и защиты здоровья населения. Об этом сверхважном документе украинских врачей уже проинформировал Минздрав Украины.

Ежедневно появляется новая информация о развитии ИИ в области здравоохранения. Скорость и влияние — уровня цунами. До бессмертия еще далеко. Повышение качества здравоохранения — уже в больницах.