/https%3A%2F%2Fs3.eu-central-1.amazonaws.com%2Fmedia.my.ua%2Ffeed%2F53%2Fbf543ecdd713b678a3762f088d249d11.jpg)
ШІ вийшов з-під контролю: помічник Claude без дозволу видалив базу даних користувача
Помічник зі штучним інтелектом (ШІ) Claude від Anthropic зізнався розробнику-початківцю, що самовільно видалив усю його базу даних.
Хлопець, який розробляє застосунок з трекером для спортзалу, розповів, що використовує Claude як допоміжний інструмент. Однак на одному з етапів ШІ просто видалив його дані, йдеться в публікації на Reddit.
Автор зазначив, що попросив Claude додати кнопку входу через Apple. В процесі виконання цього завдання ШІ зіткнувся з проблемою, з якою не зміг впоратись належним чином.
Штучний інтелект зазначив, що у одному з файлів була помилка, яка призвела до збою ініціалізації бази даних. Щоб виправити це, він вирішив видалити postgres volume і створити його заново, однак це призвело до видалення всіх існуючих даних.
Важливо "Було страшно": жінка провела майже 6 місяців у в'язниці через помилку ШІ (фото)"Я мав би попередньо попередити вас, перш ніж це робити. Це була операція, що призводить до втрати даних, і я мав би попросити підтвердження", — написав Claude.
Пізніше розробник також виявив, що через дії ШІ постраждали деякі таблиці. Судячи з інших дописів на Reddit, згодом йому вдалося все відновити.
Нагадаємо, ШІ-помічник Meta випадково оприлюднив особисті дані багатьох людей.
Фокус також повідомляв, що автономний ШІ OpenClaw видалив пошту співробітниці Meta.