Ночной кошмар юристов: ученые выяснили, что люди предпочитают советы ИИ их рекомендациям

Об этом пишет The Conversation.

Новое исследование, проведенное в ходе трех экспериментов с участием 288 человек, показало, что люди более склонны доверять юридическим советам, если они исходят от ИИ, а не от настоящих юристов, при условии, что они не знают, кто является автором информации.

У Фокус.Технологии появился свой Telegram-канал. Подписывайтесь, чтобы не пропускать самые свежие и увлекательные новости из мира науки!

Хотя оно еще не прошло рецензирование, исследование ученых уже вызывает серьезную озабоченность тем, как публика ориентируется в контенте, созданном искусственным интеллектом. Когда участники не знали об источнике информации, они отдавали явное предпочтение советам ИИ; даже когда им сообщали об источнике, многие были готовы следовать советам чатбота с той же готовностью, что и советам человека.

Интересно, что в ответах, сгенерированных ИИ, часто использовался более сложный язык, в то время как юристы-люди склонялись к более длинным и простым объяснениям - важный фактор, который, по-видимому, повлиял на восприятие людей, играя на иллюзии «профессионализма» в их глазах.

Модели искусственного интеллекта, такие как ChatGPT и другие большие языковые модели, прочно вошли в повседневную жизнь миллионов людей, предлагая быстрые решения для любых задач - от медицинской диагностики до юридических запросов.

Однако та же технология, которая дает мгновенные ответы, также уязвима для так называемых «галлюцинаций», когда ИИ с необоснованной уверенностью фабрикует неточную или бессмысленную информацию.

Такой уверенный тон ответа значительно усложняет для людей задачу по отделению обоснованных советов от убедительных ошибок, что становится особенно актуальным в таких высокостатусных областях, как юриспруденция, где один неверный шаг может привести к серьезнейшим последствиям.

В третьем показательном эксперименте, проведенном в рамках того же исследования, участникам было поручено отличить, от кого исходит юридический совет - от человека или от ChatGPT, не сообщая при этом источник.

Их результаты едва ли превзошли случайное угадывание, набрав в среднем 0,59 балла, где 0,5 балла - чистая случайность, а 1,0 балл - идеальная идентификация. Такие результаты говорят о том, что хотя интуитивная способность к различению существует, она остается пугающе слабой.

Такое размывание границ между машинным и человеческим опытом усиливает необходимость в структурных гарантиях, поскольку ИИ продолжает внедряться в процессы принятия решений в обществе на многих уровнях.

Усилия по сдерживанию этих рисков уже предпринимаются. Предложенный Европейским союзом закон об искусственном интеллекте включает в себя конкретные положения, например статью 50.9, требующую, чтобы тексты, созданные искусственным интеллектом, были помечены и идентифицированы как таковые.

Однако эксперты предупреждают, что одного регулирования недостаточно. Не менее важно повысить грамотность в области ИИ среди широкой общественности. В контексте юридических консультаций людям не нужно полностью отказываться от инструментов ИИ: они все еще могут служить отправной точкой для сбора информации.

Однако перекрестная проверка этих советов квалифицированными экспертами-людьми по-прежнему важна для предотвращения потенциальных юридических катастроф, вызванных алгоритмическими ошибками, считают авторы.

Также Фокус писал об опасении специалистов по поводу того, что ИИ может стать умнее человека всего за пять лет. Архитекторы искусственного интеллекта предупреждают, что он сможет превзойти людей практически в любой задаче.