Дослідник дезінформації визнає, що ChatGPT додав фальшиві деталі до його судової заяви

Експерт з дезінформації, звинувачений у використанні штучного інтелекту для створення юридичного документа, зізнався, що використовував ChatGPT, щоб допомогти йому впорядкувати свої цитати, що призвело до «галюцинацій», які, за словами критиків, поставили під сумнів всю заявку. Джефф Хенкок, засновник Стенфордської лабораторії соціальних медіа, який написав документ, каже, що помилки не змінюють «суттєвих пунктів у декларації».

Хенкок подав свідчення під присягою на підтримку закону штату Міннесота «Використання технології глибоких фейків для впливу на вибори», який оскаржують у федеральному суді Крістофер Холс — консервативний користувач YouTube, який публікує дописи під іменем Рейган — і представник штату Міннесота Мері Френсон. . Виявивши, що заява Хенкока містить цитати, яких не існує, адвокати Холса та Френсона заявили, що вона «ненадійна», і попросили виключити її з розгляду. 

У наступній заяві, поданій наприкінці минулого тижня, Хенкок визнав, що він використовував ChatGPT для написання декларації, але заперечує, що він використовував її для написання чого-небудь. «Я написав і переглянув суть декларації та твердо підтримую кожну з заяв, які містяться в ній, усі вони підтверджені останніми науковими дослідженнями в цій галузі та відображають мою думку як експерта щодо впливу штучного інтелекту. технології проти дезінформації та її впливу на суспільство», – написав Хенкок. 

Що стосується помилок цитування, Хенкок пояснив, що він використовував Google Scholar і GPT-4o «для визначення статей, які, ймовірно, мають відношення до декларації, щоб я міг об’єднати те, що я вже знав, із новою наукою». Хенкок каже, що використовував GPT-4o для створення списку цитат, а не для написання документа, і не усвідомлював, що інструмент генерує «дві помилки цитування, які в народі називають «галюцинаціями»» та додає неправильних авторів до іншої цитати.

«Я не мав наміру вводити в оману суд чи адвоката», — написав Хенкок у своїй останній заяві. «Я висловлюю щирий жаль з приводу будь-якої плутанини, яку це могло спричинити. При цьому я твердо стою за всіма суттєвими пунктами декларації».