Обманет и подставит: в каких случаях опасно использовать ChatGPT и других ботов с ИИ

Чатбот может быть уверен в своей информации, даже если откровенно не прав. Когда вопрос касается налогов, медицинских счетов, судебных разбирательств или банковских счетов, ошибка может стоить очень дорого. Журналист издания CNET Нельсон Агилар поделился своим опытом того, когда лучше не использовать ИИ.

Диагностика проблем со здоровьем

Очень часто люди пытаются узнать диагноз по симптомам и для этого ищут подходящие болезни в Google. Сегодня то же можно спросить и у ChatGPT, но ответы могут ввести в заблуждение. Потенциальные диагнозы могут варьироваться от обезвоживания до гриппа или рака, поэтому не стоит верить ответам чатбота, вместо этого нужно обратиться к профессиональному врачу.

ChatGPT вполне может помочь со здоровьем, например, составить вопросы для следующего приема, перевести медицинские термины и организовать временную шкалу симптомов, чтобы лучше подготовиться к походу в больницу. Однако ИИ не может заказывать анализы или провести физический осмотр, а также не имеет страховки от врачебной ошибки.

Сюда же относится и психическое здоровье. Он может предложить методы для расслабления или снятия стресса, но не поднимет тревогу в случае серьезных проблем, требующих лечения. В отличие от человека-психолога, ИИ не может читать язык тела или оценивать тон, не имеет никакой способности к подлинной эмпатии, а только имитирует ее. Лицензированный терапевт действует в соответствии с юридическими предписаниями и профессиональными кодексами, которые защищают пациентов от вреда.

Вопросы безопасности

Не нужно обращаться к СhatGPT в случае чрезвычайной ситуации, например, если сработал датчик угарного газа. Модели ИИ не могут учуять газ, обнаружить дым или отправить аварийную бригаду, а в быстро развивающемся кризисе выживание зависит от каждой секунды.

ChatGPT может работать только с обрывками информации, которую вы ему скармливаете, и в чрезвычайной ситуации ее может быть слишком мало и слишком поздно. Поэтому относитесь к чат-боту стоит обращаться уже после принятия всех необходимых мер, например, после вызова спасателей или медиков.

Финансовые планы

Не стоит просить ChatGPT разобраться с налогами или финансовой ситуацией. ИИ может объяснить, что такое биржевой фонд, но он не знает соотношения долга пользователя к его доходу, налоговой категории, статуса подачи, вычетов, долгосрочных целей. Данные, на которых модель обучалась, могут быть устаревшими. Кроме того нужно учитывать, что всю информацию, которую пользователь предоставляет, включая номера счетов или заработок, ChatGPT способен использовать для дальнейшего обучения, а впоследствии случайно раскрыть кому-нибудь.

Работа с конфиденциальными или регламентированными данными

Вся информация, которую получает СhatGPT, может оказаться на стороннем сервере без соглашения о неразглашении. Это касается бизнес-контрактов, медицинских данных, выплаты налогов и другой конфиденциальной информации. Чатботы не застрахованы от хакеров и угроз безопасности, которые могут привести к утечке данных.

Списывание во время учебы

Turnitin и подобные детекторы с каждым семестром становятся все лучше в выявлении текстов, сгенерированных ИИ, и опытные преподаватели также научились различать стиль ChatGPT. Если студента или специалиста поймают на списывании, то могут отстранить от занятий, исключить или лишить лицензии. Лучше всего использовать чатботы в качестве помощника во время подготовки, а не на экзаменах. Пользователь также не усваивает полезные знания и не получает навыки, если ChatGPT делает всю работу.

Изучение последних новостей

С тех пор как OpenAI запустила поиск ChatGPT в конце 2024 года (и открыла его для всех в феврале 2025 года), чат-бот может получать свежие веб-страницы, котировки акций, цены на бензи , результаты спортивных состязаний и другие данные в режиме реального времени в тот момент, когда их запрашивают, а также давать ссылки на них, чтобы вы могли проверить источник.

Однако он не будет транслировать непрерывные обновления сам по себе. Каждое обновление требует нового запроса, поэтому, когда скорость имеет решающее значение, потоки данных в реальном времени, официальные пресс-релизы, новостные сайты, push-уведомления и потоковое освещение по-прежнему остаются лучшим выбором.

Ставки и азартные игры

По словам автора, ChatGPT помог ему сделать удачную ставку во время чемпионата NCAA по баскетболу среди мужчин, но он заметил, как ИИ "галлюцинировал" и предоставлял неверную информацию, когда дело касалось статистики игроков, полученных травм, статистики побед и поражений. Нельсон не проиграл лишь потому, что дважды проверил каждую заявку в реальном времени, и ему просто повезло. ChatGPT не может предсказывать исход матчей, поэтому опасно полагаться только на него.

Составление договоров

ChatGPT отлично подходит для разбивки основных концепций, но если нужно составить фактический юридический текст, то существует большой риск. Правила наследственного и семейного права различаются в зависимости от стран, а иногда и регионов, поэтому пропуск обязательной подписи свидетеля или пропуск пункта о нотариальном заверении может привести к тому, что весь документ не будет иметь силы. Вместо этого ChatGPT лучше попросить помочь составить контрольный список вопросов, а затем обратиться к адвокату, чтобы он превратил информацию в документ, который будет представлен в суде или другом государственном учреждении.