Нічний кошмар юристів: учені з'ясували, що люди надають перевагу порадам ШІ, а не їхнім рекомендаціям

Про це пише The Conversation.

Нове дослідження, проведене під час трьох експериментів за участю 288 осіб, засвідчило, що люди більш схильні довіряти юридичним порадам, якщо вони походять від ШІ, а не від справжніх юристів, за умови, що вони не знають, хто є автором інформації.

У Фокус.Технології з'явився свій Telegram-канал. Підписуйтесь, щоб не пропускати найсвіжіші та найцікавіші новини зі світу науки!

Хоча воно ще не пройшло рецензування, дослідження вчених уже викликає серйозну стурбованість тим, як публіка орієнтується в контенті, створеному штучним інтелектом. Коли учасники не знали про джерело інформації, вони віддавали явну перевагу порадам ШІ; навіть коли їм повідомляли про джерело, багато хто був готовий слідувати порадам чатбота з тією самою готовністю, що і порадам людини.

Важливо Квінтесенція лженауки: ШІ помиляється з відповідями у 60% випадків, з'ясували вчені

Цікаво, що у відповідях, згенерованих ШІ, часто використовували складнішу мову, тоді як юристи-люди схилялися до довших і простіших пояснень — важливий фактор, який, мабуть, вплинув на сприйняття людей, граючи на ілюзії "професіоналізму" в їхніх очах.

Моделі штучного інтелекту, такі як ChatGPT та інші великі мовні моделі, міцно увійшли в повсякденне життя мільйонів людей, пропонуючи швидкі рішення для будь-яких завдань — від медичної діагностики до юридичних запитів.

Однак та сама технологія, яка дає миттєві відповіді, також уразлива для так званих "галюцинацій", коли ШІ з необґрунтованою впевненістю фабрикує неточну або безглузду інформацію.

Такий упевнений тон відповіді значно ускладнює для людей завдання з відокремлення обґрунтованих порад від переконливих помилок, що стає особливо актуальним у таких високостатусних галузях, як юриспруденція, де один хибний крок може призвести до найсерйозніших наслідків.

У третьому показовому експерименті, проведеному в рамках того самого дослідження, учасникам було доручено відрізнити, від кого походить юридична порада — від людини чи від ChatGPT, не повідомляючи при цьому джерело.

Їхні результати навряд чи перевершили випадкове вгадування, набравши в середньому 0,59 бала, де 0,5 бала — чиста випадковість, а 1,0 бал — ідеальна ідентифікація. Такі результати свідчать про те, що хоча інтуїтивна здатність до розрізнення існує, вона залишається лякаюче слабкою.

Таке розмивання кордонів між машинним і людським досвідом посилює необхідність у структурних гарантіях, оскільки ШІ продовжує впроваджуватися в процеси ухвалення рішень у суспільстві на багатьох рівнях.

Зусилля щодо стримування цих ризиків уже робляться. Запропонований Європейським союзом закон про штучний інтелект містить конкретні положення, наприклад, статтю 50.9, що вимагає, щоб тексти, створені штучним інтелектом, були позначені та ідентифіковані як такі.

Однак експерти попереджають, що одного регулювання недостатньо. Не менш важливо підвищити грамотність у сфері ШІ серед широкої громадськості. У контексті юридичних консультацій людям не потрібно повністю відмовлятися від інструментів ШІ: вони все ще можуть служити відправною точкою для збору інформації.

Однак перехресна перевірка цих порад кваліфікованими експертами-людьми, як і раніше, важлива для запобігання потенційним юридичним катастрофам, спричиненим алгоритмічними помилками, вважають автори.

Раніше Фокус писав про те, як крихітні іскри від рослин під час грози впливають на повітря. Дослідження показує, що електричні заряди на листі дерев під час гроз можуть генерувати хімічні речовини, які здатні впливати на якість повітря.

Також Фокус писав про побоювання фахівців з приводу того, що ШІ може стати розумнішим за людину всього за п'ять років. Архітектори штучного інтелекту попереджають, що він зможе перевершити людей практично в будь-якому завданні.