Вчителі довіряють ШІ, навіть коли він помиляється: дослідження виявило небезпечну тенденцію

Люди менш схильні виправляти помилки, якщо вважають, що їх припустився штучний інтелект, а не інша людина. Про це свідчать результати нового дослідження, опублікованого в журналі PNAS Nexus.

Як пише видання Education HQ, в основу роботи ліг експеримент, в якому взяли участь понад 1300 вчителів із Греції. Він матиме важливі наслідки для шкільної освіти. Загалом дослідники проаналізували, як педагоги реагують на несправедливо занижені оцінки за роботи учнів, якщо їх виставила система ШІ, порівняно з оцінками від колеги-вчителя. Виявилося, що освітянам простіше погодитися з несправедливим балом, коли його призначив алгоритм.

Дослідження провели доктор Софокліс Гулас із Єльського університету, професорка Рігісса Мегалоконому з Університету Монаша та доктор Панагіотіс Сотіракопулос із Університету Кертіна. За результатами Мегалоконому поставила під сумнів уявлення про те, що одного лише людського контролю достатньо для запобігання помилкам ШІ.

"Вчителі покладаються на результати роботи штучного інтелекту, не піддаючи їх належному сумніву, і помилки просто залишаються непоміченими та невиправленими. Масштабуйте це на тисячі учнів і класів – і ви побачите, як швидко це перетворюється на серйозну проблему", – попередила дослідниця.

Виявлені закономірності вказують на нові виклики для шкіл, де ШІ дедалі частіше залучають до планування уроків, надання відгуку на роботи, виявлення учнів з відставанням та адміністрування. Майже половина опитуваних (48%) використовує такі інструменти принаймні щотижня для підготовки до занять, але лише 16% активно закликають колег впроваджувати ці технології.

Найменш схильними оскаржувати сувору оцінку від ШІ виявилися молоді вчителі, педагоги з науковими ступенями та ті, хто вважає себе впевненими користувачами технологій. "Саме ті люди, від яких ми очікували найбільш критичного використання інструментів ШІ, виявилися найбільш схильними погоджуватися із заниженими балами від алгоритму. Це парадоксально і тривожно, адже ті, хто просуває інтеграцію ШІ в школах, найменше здатні помічати його помилки", – зазначила Мегалоконому.

Зараз дослідники розробляють спеціальну програму, щоб навчити вчителів критично ставитися до ШІ. За словами науковців, недостатньо просто сказати, що алгоритм може помилятися – потрібно детально показати, як і коли людська оцінка схильна до хибних висновків, та сформувати звичку перевіряти роботу системи.

Хоча освітяни готові використовувати ШІ як помічника в плануванні, вони досі скептично ставляться до передачі йому оцінювальних функцій. Їхній скепсис базується на нюансах шкільного життя: оцінювання часто вимагає врахування контексту, якого ШІ позбавлений.

У коментарях вчителі наголошували на важливості емпатії та індивідуального підходу у випадках хвороб, труднощів у навчанні чи складного соціального середовища учнів (наприклад, коли йдеться про дітей з родин біженців, потерпілих від насильства чи з залежностями). Також лунали думки, що ШІ добре підходить для точних наук, але не здатен об'єктивно оцінювати гуманітарні предмети через відсутність "емоційної гнучкості".

Дослідники наголошують, що ці результати мають прямий вплив на освітню політику та відповідальне використання алгоритмів у класах. Для цього потрібні такі заходи.

• Алгоритми мають бути розроблені так, щоб сигналізувати не лише про свою компетентність, а й про відповідальність. Це змусить учителів ставитися до порад ШІ з тією ж критичністю, що й до порад колег.
• Програми підвищення кваліфікації мають навчити педагогів перевіряти й за потреби коригувати рішення алгоритмів. Тренінги з виявлення упередженостей та помилок допоможуть збалансувати рівень довіри.
• Розгляд педагогів як співавторів і критичних партнерів, а не пасивних користувачів, гарантуватиме, що ШІ доповнюватиме, а не замінюватиме професійне судження.

Наразі команда вчених досліджує, чи зменшує ШІ власні упередження вчителів при оцінюванні, чи підвищує він щоденну продуктивність і чи можуть прості й недорогі рішення змінити те, як освітяни взаємодіють з інструментами ШІ. Дослідники сподіваються, що ці висновки врахують посадовці, керівники шкіл та департаменти освіти, які ухвалюють рішення щодо впровадження штучного інтелекту просто зараз.