Математик Андреас Том просить OpenAI довести, що вона не використала його роботу — The Verge

Математик Андреас Том заявив, що OpenAI має надати докази того, що не використовувала непублічні математичні напрацювання користувачів для поліпшення своїх моделей. Свої побоювання він пов’язав із нещодавніми оголошеннями компанії про математичні результати, один із яких стосується його спеціалізації — несофічних груп.

Питання щодо даних користувачів

Як повідомляє The Verge, Том у серії дописів на Mastodon розповів, що він і його колеги спілкувалися з ChatGPT до оголошення OpenAI. Один із 10 результатів, про які компанія повідомила минулого місяця, стосувався несофічних груп. OpenAI визнала, що цей результат значною мірою спирався на попередні роботи Тома та його колеги Габора Куна.

За словами Тома, після оголошення він звернув увагу на детальне володіння OpenAI методами, які не були ані найочевиднішим, ані найперспективнішим шляхом до розв’язання задачі. Він написав дослідникам OpenAI Sébastien Bubeck і Mark Sellke із запитанням, чи могли його розмови з чатботом бути частиною тренувальних даних або бути доступними під час процесу міркування моделі.

Вимога більшої прозорості

Том заявив, що отримана відповідь стосувалася лише прямого доступу до чатів, але не пояснювала, чи потрапив зміст розмов до масивів даних, які компанія використовує для поліпшення моделей. На його думку, лише OpenAI має відомості, які дозволяють встановити, чи використовувалися конкретні матеріали користувачів. Математик вважає, що компанія має розкрити необхідні набори даних і пояснити умови їх використання, якщо заперечує застосування непублічних досліджень.

Раніше OpenAI заявляла, що її дослідники та агенти не бачили роботи інших математиків до її публічного оприлюднення, зокрема не отримували доступу до конкретних даних користувачів для розв’язання задачі Нав’є — Стокса. Водночас компанія зазначила, що не може повністю виключити: знеособлені дані, отримані внаслідок користування її продуктами, могли допомогти поліпшити моделі.

Том наголосив, що знеособлення може прибрати ім’я, але не інтелектуальний зміст математичної ідеї. Він назвав етично неприйнятною ситуацію, за якої непублічні дослідження користувачів могли б допомагати поліпшувати моделі, що згодом змагаються з цими ж дослідниками за першість у публікації без їхньої згоди, розкриття інформації чи належного визнання. OpenAI не надала The Verge оперативного коментаря.