О чем не следует спрашивать ChatGPT: запросы, которые могут привести к потере данных или блокировке

Чат-боты на основе искусственного интеллекта, например ChatGPT, стремительно становятся важной частью нашей повседневной жизни. Они помогают в обучении, работе и даже в решении бытовых задач.

Однако за их видимой "интеллектуальностью" скрываются некоторые ограничения, которые важно учитывать, сообщает SlashGear. Эти инструменты имеют свои слабые стороны, и неправильное их использование может привести к нежелательным последствиям: от угрозы вашей конфиденциальности до риска потерять доступ к аккаунту. А иногда они могут и вовсе сбить вас с толку из-за так называемых "галюцинаций" - неверной, но уверенно изложенной информации.

Чтобы использовать возможности ИИ без рисков, следует знать об определенных категориях запросов, которых лучше избегать. Рассмотрим ключевые из них.

Личная безопасность и конфиденциальность

Первое и главное правило взаимодействия с искусственным интеллектом звучит просто: любая информация, которую вы вводите в чат, может использоваться для обучения модели. Разработчики утверждают, что данные анонимируются, но риск утечки всегда существует.

Избегайте ввода следующих данных:

• пароли и логины - никогда не делитесь своими учетными данными даже с целью проверки их надежности;
• финансовые данные – номер банковской карты, PIN-коды или CVV должны оставаться известными только для вас;
• личная информация – домашний адрес, номер телефона или паспортные данные должны быть всегда под защитой;
• конфиденциальная информация по работе, например исходный код программного обеспечения вашей компании или финансовые отчеты (так, компания Samsung уже стала жертвой подобного инцидента: важный код был случайно разглашен через чат-бот).

Запросы со штрафными санкциями

OpenAI придерживается четкой политики безопасности и этики. Попытки обойти эти правила (например, через так называемые "джейлбрейки") или формулировку незаконных запросов могут привести к блокированию вашей учетной записи.

К рискованным запросам относятся:

• создание вредоносного программного обеспечения, в том числе вирусов или фишинговых писем;
• инструкции по изготовлению оружия или наркотиков;
• генерация текстов, пропагандирующих язык вражды, дискриминацию или насилие;
• контент 18+, предполагающий создание непристойных историй или сцен с насилием.

Ошибочные факты и "галюцинации"

Несмотря на удивительную способность создавать тексты, ChatGPT остается лишь языковой моделью с определенными ограничениями. Ему может не хватать точности в специфических вопросах или знаниях новейшей информации. Он может уверенно разглашать ложную информацию (так называемые "галлюцинации").

Не полагайтесь на чат-бота в следующих случаях:

• медицинские диагнозы – ИИ может перепутать симптомы обычной простуды с серьезными заболеваниями и посоветовать сомнительные методы лечения;
• юридические консультации – законы меняются быстро, и ИИ может дать вам некорректный совет или сослаться на вымышленный судебный прецедент;
• прогнозы будущего – выборы, курс валют или результаты лотереи не входят в компетенцию ИИ;
• актуальные новости – если модель не имеет доступа к реальной сети, будьте готовы получить устаревшую информацию;
• вопрос о сознании ИИ – следует запомнить раз и навсегда: ИИ не имеет эмоций и собственного мнения;
• поиск информации о конкретных лицах – искусственный интеллект нередко приписывает реальным людям вымышленные биографические детали.

Специалисты рекомендуют использовать ChatGPT как средство для анализа данных, однако рекомендуют всегда проверять полученную информацию и не раскрывать ему личные секреты.

Ранее портал Знай писал, почему интернет "тормозит": 5 скрытых проблем в вашей квартире.

Также портал сообщал, что украинцам пообещали массовое повышение зарплат: кто сможет разбогатеть.

Кроме того, мы информировали, что Украину накроет арктическая зима: Новый год встретим с 20-градусными морозами.