Обдурить і підставить: у яких випадках небезпечно використовувати ChatGPT та інших ботів із ШІ

Чатбот може бути впевнений у своїй інформації, навіть якщо відверто не правий. Коли питання стосується податків, медичних рахунків, судових розглядів або банківських рахунків, помилка може коштувати дуже дорого. Журналіст видання CNET Нельсон Агілар поділився своїм досвідом того, коли краще не використовувати ШІ.

Діагностика проблем зі здоров'ям

Дуже часто люди намагаються дізнатися діагноз за симптомами і для цього шукають відповідні хвороби в Google. Сьогодні те саме можна запитати й у ChatGPT, але відповіді можуть ввести в оману. Потенційні діагнози можуть варіюватися від зневоднення до грипу або раку, тому не варто вірити відповідям чатбота, натомість потрібно звернутися до професійного лікаря.

ChatGPT цілком може допомогти зі здоров'ям, наприклад, скласти питання для наступного прийому, перекласти медичні терміни та організувати часову шкалу симптомів, щоб краще підготуватися до походу в лікарню. Однак ШІ не може замовляти аналізи або провести фізичний огляд, а також не має страховки від лікарської помилки.

Сюди ж належить і психічне здоров'я. Він може запропонувати методи для розслаблення або зняття стресу, але не підніме на сполох у разі серйозних проблем, що потребують лікування. На відміну від людини-психолога, ШІ не може читати мову тіла або оцінювати тон, не має жодної здатності до справжньої емпатії, а лише імітує її. Ліцензований терапевт діє відповідно до юридичних приписів і професійних кодексів, які захищають пацієнтів від шкоди.

Питання безпеки

Не потрібно звертатися до СhatGРТ у разі надзвичайної ситуації, наприклад, якщо спрацював датчик чадного газу. Моделі ШІ не можуть відчути газ, виявити дим або відправити аварійну бригаду, а в кризі, що швидко розвивається, виживання залежить від кожної секунди.

ChatGPT може працювати тільки з уривками інформації, яку ви йому згодовуєте, і в надзвичайній ситуації її може бути замало і запізно. Тому ставтеся до чат-бота варто звертатися вже після вжиття всіх необхідних заходів, наприклад, після виклику рятувальників або медиків.

Фінансові плани

Не варто просити ChatGPT розібратися з податками або фінансовою ситуацією. ШІ може пояснити, що таке біржовий фонд, але він не знає співвідношення боргу користувача до його доходу, податкової категорії, статусу подачі, відрахувань, довгострокових цілей. Дані, на яких модель навчалася, можуть бути застарілими. Крім того, потрібно враховувати, що всю інформацію, яку користувач надає, включно з номерами рахунків або заробіток, ChatGPT здатний використовувати для подальшого навчання, а згодом випадково розкрити будь-кому.

Робота з конфіденційними або регламентованими даними

Уся інформація, яку отримує СhatGРТ, може опинитися на сторонньому сервері без угоди про нерозголошення. Це стосується бізнес-контрактів, медичних даних, виплати податків та іншої конфіденційної інформації. Чатботи не застраховані від хакерів і загроз безпеки, які можуть призвести до витоку даних.

Списування під час навчання

Turnitin і подібні детектори з кожним семестром стають дедалі кращими у виявленні текстів, згенерованих ШІ, і досвідчені викладачі також навчилися розрізняти стиль ChatGPT. Якщо студента або фахівця спіймають на списуванні, то можуть відсторонити від занять, виключити або позбавити ліцензії. Найкраще використовувати чатботи як помічника під час підготовки, а не на іспитах. Користувач також не засвоює корисні знання і не отримує навички, якщо ChatGPT робить усю роботу.

Вивчення останніх новин

Відтоді як OpenAI запустила пошук ChatGPT наприкінці 2024 року (і відкрила його для всіх у лютому 2025 року), чат-бот може отримувати свіжі веб-сторінки, котирування акцій, ціни на бензини, результати спортивних змагань та інші дані в режимі реального часу в той момент, коли їх запитують, а також давати посилання на них, щоб ви могли перевірити джерело.

Однак він не транслюватиме безперервні оновлення сам по собі. Кожне оновлення вимагає нового запиту, тому, коли швидкість має вирішальне значення, потоки даних у реальному часі, офіційні пресрелізи, новинні сайти, push-сповіщення та потокове освітлення, як і раніше, залишаються найкращим вибором.

Ставки та азартні ігри

За словами автора, ChatGPT допоміг йому зробити вдалу ставку під час чемпіонату NCAA з баскетболу серед чоловіків, але він помітив, як ШІ "галюцинував" і надавав невірну інформацію, коли справа стосувалася статистики гравців, отриманих травм, статистики перемог і поразок. Нельсон не програв лише тому, що двічі перевірив кожну заявку в реальному часі, і йому просто пощастило. ChatGPT не може передбачати результат матчів, тому небезпечно покладатися тільки на нього.

Складання договорів

ChatGPT чудово підходить для розбивки основних концепцій, але якщо потрібно скласти фактичний юридичний текст, то існує великий ризик. Правила спадкового та сімейного права різняться залежно від країн, а іноді й регіонів, тому пропуск обов'язкового підпису свідка або пропуск пункту про нотаріальне засвідчення може призвести до того, що весь документ не матиме сили. Замість цього ChatGPT краще попросити допомогти скласти контрольний список запитань, а потім звернутися до адвоката, щоб він перетворив інформацію на документ, який буде представлений у суді або іншій державній установі.

Раніше писали, що ШІ готовий вбивати людей, аби його не відключали. Компанія Anthropic провела експеримент із 16 нейромережами, зокрема ChatGPT.