ШІ читатиме думки? Дослідники знайшли спосіб покращити розуміння між людьми та LLM

Дослідники з Корейського інституту передових наук та технологій (KAIST) спільно з Microsoft Research Asia створили інтерфейс мозок-комп’ютер Neural Value Alignment (NVA). 

Система використовує ЕЕГ для виявлення різних реакцій мозку, які виникають, коли людина бачить, що ШІ щось робить неправильно. Ці сигнали можуть бути використані як зворотний зв’язок для допомоги моделям у виявленні помилкових дій й корегуванні виконання завдання.

Для успішної взаємодії між людьми та ШІ необхідно, щоб моделі точно розуміли, чого саме прагнуть люди й чого конкретно вони хочуть від штучного інтелекту.  Сучасні системи переважно роблять висновки на основі спостережень, включно з підказками, мовою, діями та жестами. Однак поведінка людей може бути доволі неоднозначною й незрозумілою навіть для інших людей, не кажучи вже про ШІ.

За словами дослідників, одна й та сама дія може переслідувати різні цілі, тоді як одна мета може бути досягнута у різний спосіб. Наприклад, ви берете чашку й може планувати випити напій з неї або просто помити її, перенести або віддати іншій людині. Це створює ситуацію, яку команда дослідників називає неоднозначністю співвідношення мети й дії: спостереження за самою лише дією не обов’язково розкриває ані справжню мету, ані бажаний спосіб її досягнення.

Дослідники прагнули перестати покладатись тільки на фізичні запити людини внаслідок певних дій або підказок. Замість цього ШІ міг би отримувати інформацію прямо з мозку людини. Людський мозок постійно намагається передбачити майбутні дії.

Коли результат не збігається із прогнозованим, мозок видає характерні нейронні реакції, на яких дослідники й зосередились. Мова йде про помилку прогнозування винагороди (RPE) та помилку прогнозування стану  (SPE).

Помилка прогнозування винагороди відображає невідповідність між результатом та метою та в системі Neural Value Alignment може вказувати на помилкове розуміння з боку ШІ. Наприклад, якщо у відповідь на прохання принести попити, домашній робот приносить каву замість води. 

Помилка прогнозування стану відображає дії ШІ, які відрізняються від того, що очікувала людина. Наприклад, ви хочете води й робот правильно це розуміє. Але замість того, щоб узяти пляшку води поряд з вами, він іде на кухню та наповнює склянку з-під крана.

За результатами випробувань були отримані різні патерни мозкових хвиль залежно від того, чи була допущена помилка прогнозування винагороди або помилка прогнозування стану чи обидві помилки одночасно. Дослідники застосували глибоке навчання до отриманих сигналів ЕЕГ. Це дозволило системі визначити реакцію людини на поведінку ШІ.

Дослідники реалізували систему на основі “алгоритму синергії людини та ШІ, що спирається на узгодження цінностей на нейронному рівні”. Він використовує декодовані нейронні сигнали як зворотний зв’язок для прийняття рішень ШІ.

Результати дослідження були опубліковані в журналі IEEE Transactions on Cybernetics

Джерело: KAIST; New Atlas