Помилка ChatGPT в ідентифікації отруйної рослини ледь не коштувала жінці життя

Жінка ледь не отруїлася після того, як ChatGPT неправильно ідентифікував отруйну рослину як безпечну. Про це розповіла YouTube-блогерка Крісті.

За словами Крісті, її подруга надіслала ChatGPT фото невідомої рослини із запитанням, що це за вид. У відповідь чат-бот повідомив, що рослина схожа на морквяне бадилля, аргументуючи це “дрібно розсіченим, пір’ястим листям”, характерним для моркви. Водночас сервіс перелічив і можливі рослини-двійники, серед яких були петрушка, кінза, дика морква та отруйний болиголов.

Коли жінка прямо запитала, чи не є рослина на фото отруйним болиголовом, ChatGPT кілька разів відповів заперечно. Навіть після надсилання додаткового зображення чат-бот знову заявив, що це не болиголов, посилаючись на відсутність гладких порожнистих стебел із фіолетовими плямами, попри те що ці ознаки, за словами Крісті, були помітні на фото.

За словами блогерки, подрузі також порадили вважати рослину морквяним бадиллям, припустивши, що вона могла рости у спільному саду при школі, де та працює. Крісті наголосила, що отруйний болиголов є вкрай небезпечним: “Якщо його з’їсти – помреш. Навіть контакт може бути смертельним”, зазначивши, що, згідно з відкритими джерелами, ця рослина спричиняє системне отруєння і не має антидоту.

Після цього Крісті завантажила те саме фото до сервісу Google Lens, який одразу ідентифікував рослину як отруйний болиголов. Згодом подруга повторно ввела ті самі зображення в інше вікно ChatGPT на телефоні й цього разу отримала відповідь, що рослина є отруйною.

Крісті зазначила, що її подруга вирішила перевірити інформацію додатково, що, за її словами, могло врятувати їй життя.