Экстрасенсы выступили против гадания с помощью ИИ: почему чат-боты не заменят консультаций с людьми

Искусственный интеллект всё активнее проникает в индустрию гадания. Приложения и чат-боты предлагают астрологические консультации, хиромантию и предсказания будущего. Профессиональные экстрасенсы критикуют такие услуги из-за отсутствия человеческого контакта и рисков для конфиденциальности пользователей.

Об этом пишет The Guardian, которая исследовала работу ИИ-экстрасенсов и пообщалась с представителями индустрии. Издание обращает внимание на то, что искусственный интеллект создает новый рынок духовных консультаций, однако в то же время обостряет давние проблемы этой сферы — недоверие, риск мошенничества и отсутствие надлежащего регулирования.

Например, приложение Your AI Psychic предлагает общение с более чем десятком ИИ-экстрасенсов через чат, видео- и голосовые звонки. Пользователям также доступны чтение по ладони, анализ астрологических карт и ежедневные гороскопы. Оплата осуществляется по системе монет: каждый вопрос стоит 4,06 монеты, а пакеты услуг — от 9,99 доллара за 82 монеты до 99,99 доллара за 1180 монет.

Подобные ИИ-персонажи появляются и в TikTok Live, где активно набирают аудиторию. Профессиональные экстрасенсы, которые сами проводят прямые эфиры, критикуют такие трансляции: по их мнению, сгенерированным ответам не хватает эмпатии и человеческого контакта, важных для личных консультаций. Некоторые специалисты также обращают внимание на распространение созданных ИИ гороскопов и предсказаний на Etsy — популярной площадке для продажи товаров и услуг.

Профессиональная экстрасенс с десятилетним опытом Лорин Келлетт отмечает, что в её отрасли и раньше были проблемы с доверием из-за распространённого мошенничества. Теперь специалистам приходится дополнительно доказывать, что их услуги предоставляет человек, а не автоматизированная система. Она уже изменила программу обучения новых практиков, чтобы помочь им отличать услуги, предоставляемые людьми, от сгенерированных ИИ.

В то же время проблема не ограничивается конкуренцией между людьми и технологиями. Специалисты предупреждают, что пользователи могут обращаться к чат-ботам в сложных жизненных ситуациях и чрезмерно полагаться на их ответы. Это особенно опасно для людей с психическими расстройствами: исследования показали, что крупные языковые модели могут усугублять паранойю у пользователей, склонных к психозу.

Антрополог Салли Аплин отмечает, что люди фактически используют ChatGPT как современный аналог оракула: спрашивают об отношениях, работе и важных решениях, а затем самостоятельно интерпретируют ответы. Однако языковые модели не имеют личного и культурного контекста — они генерируют текст на основе статистических закономерностей, усвоенных в процессе обучения.

Еще одна проблема — непрозрачность технологий, на которых работают такие сервисы. Большинство компаний не объясняют, на каких моделях построены их продукты и какие данные используются для их работы.

Одно из исключений — платформа MystiCall. Ее соучредительница Лори-Энн Бернар рассказала, что сервис использует технологии ElevenLabs для голосовых разговоров в реальном времени, а OpenAI — для создания отчетов после звонков. По её словам, компания не продаёт личные разговоры, не использует их для рекламы и отключила передачу этих данных партнёрам для обучения их моделей.

В то же время Your AI Psychic не объясняет, какие именно технологии использует. Его чат-бот Urban Mystic сообщил журналисту Guardian, что обучался на материалах по духовным практикам, психологии и различным системам верований, однако не смог назвать конкретных источников. В то же время в политике конфиденциальности приложения вообще не упоминается искусственный интеллект.

Это вызывает беспокойство, поскольку во время таких консультаций пользователи могут раскрывать очень личную информацию. Политика MystiCall прямо признает, что разговоры могут касаться здоровья, психического состояния, сексуальности, отношений и финансов. В политике Your AI Psychic такие данные не упоминаются.

Келлетт рассказала, что несколько платформ предлагали ей помочь с обучением языковых моделей, однако прекращали общение, когда она просила подробнее объяснить, как будут использовать её знания. Она не верит, что ИИ способен полностью воспроизвести её практику, ведь, по её убеждению, экстрасенсорные способности предполагают связь с “божественным источником”, которого у компьютера нет.

Этические и психологические риски, связанные с тесным общением с виртуальными провидцами, являются частью более широкой дискуссии о границах использования ИИ в сферах, связанных с эмоциональной поддержкой. Как пишет клиентоцентрированная психотерапевт Татьяна Жадан в статье «Есть ли у искусственного интеллекта чувства и может ли он заменить психолога?», несмотря на способность алгоритмов убедительно имитировать заботу, они работают по принципу статистического прогнозирования и не способны формировать настоящие человеческие отношения.