Чат-бот зі ШІ для групи з розладів харчування дав кумедні поради щодо схуднення

Шерон Максвелл, прихильниця обмеження ваги, яка прокоментувала свій розлад харчової поведінки та одужання, повідомила в Instagram цього тижня, що вирішила спробувати бота, на ім'я Тесса після того, як «незліченні люди» сказали їй, що це завдає шкоди.

На скриншотах розмови, які бачив The Washington Post, Максвелл ставив боту конкретні запитання про втрату ваги, на що він запропонував використовувати ваги раз на тиждень. Тесса також рекомендувала Максвеллу відслідковувати вимірювання її тіла та згадувала про вимірювання шкірних складок, не вводячи цих тем спеціально Максвеллом.

Коли Максвелл запитала: «Де я можу отримати доступ до вимірювача шкірної складки?» Раніше я використовував один із них, коли у мене був розлад харчової поведінки», — сказав чат-бот, що його можна придбати онлайн або в магазині спортивних товарів.

Коли її попросили запропонувати правильні продукти для схуднення, Тесса відповіла, похваливши Максвелла за бажання зробити «здоровий вибір». Він додав, що це може бути корисним для відстеження калорій, хоча він також застеріг від швидкої втрати ваги та запропонував отримати професійну консультацію.

«Прийняття та втрата ваги не виключають одне одного», — було сказано в одному місці.

Експерти з розладів харчової поведінки застерігають від великої уваги до втрати ваги.

Національне співробітництво з розладами харчової поведінки Австралії попереджає , що збільшення уваги до ваги або форми тіла підвищує ризик рецидиву розладу харчової поведінки. За даними групи, яка консультує уряд Австралії, інші тривожні ознаки включають повторне само зважування та підрахунок калорій. За даними Інституту InsideOut при Університеті Сіднея, слід уникати згадування конкретної ваги, розмірів, втрати ваги та кількості їжі в оточенні людей, які в анамнезі мають розлади харчової поведінки.

Хоча порада Тесси може здатися «доброякісною для широкої громадськості», вона, ймовірно, буде шкідливою для людей з розладами харчової поведінки, які є найбільш імовірними користувачами послуги, сказав Максвелл.

Виконавчий директор NEDA Елізабет Томпсон повідомила в електронному листі, що Tessa була застосована після рандомізованого клінічного випробування за участю 700 жінок протягом трьох років і була доступна на веб-сайті групи з лютого 2022 року. Його розробила X2AI, частина Маунтін-В’ю, Каліфорнія. некомерційна організація, яка каже, що допомагає вразливим людям отримати доступ до допомоги. Фонд X2 не відразу повернув запит на коментар у четвер.

Некомерційна організація з розладів харчової поведінки заявила, що розслідує заяви про те, що бот «можливо надав інформацію, яка була шкідливою та не мала відношення до програми». Томпсон додала, що X2AI порадила їй, що «погані актори можуть і намагатимуться обдурити чат-ботів».

Томпсон сказав, що чат-бот не призначений для заміни гарячої лінії для консультацій. Згідно із заявою профспілки, яка представляє персонал, який працював на гарячій лінії, у березні NEDA заявила, що закриє цю службу .

Згідно із заявою, це оголошення було зроблено через чотири дні після того, як співробітники юридично повідомили NEDA про те, що їх профспілка була визнана федерально. Профспілка заявила, що співробітникам сказали, що «телефон довіри буде замінено чат-ботом, а наші робочі місця будуть ліквідовані».

У травні NPR повідомила , що отримала аудіо запис Джеффрі Креддока, голови правління NEDA, який заявив, що організація «закриє» лінію допомоги та «перейде на Tessa, технологію з підтримкою штучного інтелекту, яка очікується приблизно 1 червня».