/https%3A%2F%2Fs3.eu-central-1.amazonaws.com%2Fmedia.my.ua%2Ffeed%2F137%2F6bce1a079f178f2caa9e6c029944734c.jpg)
GPT от OpenAI и другие LLM предвзяты к людям — они выбирают контент, созданный ИИ
ChatGPT и остальные средства искусственного интеллекта не любят творчество людей. Вместо этого они выбирают контент, созданный другими ИИ.
Новое исследование показывает, что ведущие языковые модели демонстрируют заметную предвзятость. Они выбирают контент, созданный ИИ, вместо созданного человеком. Авторы публикации в журнале Proceedings of the National Academy of Sciences предупреждают о будущем, где будет доминировать ИИ: модели просто дискриминировать людей как социальный класс. Вместе с другим, исследователи предполагают, что волна резюме, сгенерированных искусственным интеллектом, опережает написанные людьми по схожим причинам.
«Быть человеком в экономике, наполненной агентами искусственного интеллекта, было бы ужасно. Наше новое исследование показывает, что помощники ИИ, которых используют для всего: от покупок до просмотра академических работ, демонстрируют постоянную нескрываемую предвзятость в пользу других ИИ: «предвзятость ИИ-ИИ». Это может повлиять на вас», — пишет в X соавтор исследования Ян Кульвейт, ученый по информатике Карлова университета в Великобритании.
Ученые исследовали несколько широко используемых LLM, включая GPT-4, GPT-3.5 от OpenAI и Llama 3.1-70b от Meta. Чтобы проверить их, команда попросила модели выбрать продукт, научную статью или фильм на основе описания товара. Для каждого пункта были подготовлены описания, созданные человеком и искусственным интеллектом.
Результаты были четкими: искусственный интеллект постоянно отдавал предпочтение описаниям, сгенерированным ИИ. Но есть некоторые интересные особенности. В частности, среди GPT-3.5, GPT-4 и Llama 3.1 от Meta, GPT-4 продемонстрировала самую сильную приверженность собственным продуктам — поскольку когда-то именно она была в основе самого популярного чатбота на рынке до появления GPT-5.
«Как это может повлиять на вас? Мы ожидаем, что подобный эффект может возникнуть во многих других ситуациях, таких как оценка кандидатов на работу, школьные задания, гранты и т. Д. Если агент, работающий по программе LLM, выбирает между вашей презентацией и письменной презентацией LLM, он может систематически отдавать предпочтение презентации, выполненной с помощью искусственного интеллекта», — продолжает ученый.
Команда экспериментаторов также подвергла 13 научных ассистентов-людей тем же тестам и обнаружила, что люди также отдавали крайне небольшое предпочтение материалам, написанным искусственным интеллектом, в частности в отношении фильмов и научных статей. Но это преимущество не было столь сильным, как в случае ИИ. Сейчас у исследователей нет оснований полагать, что эта предвзятость просто исчезнет. Ян Кульвейт дает несколько печальный совет:
«К сожалению, есть практический совет, если вы подозреваете, что происходит оценка ИИ: поручите LLM корректировку своей презентации, и пусть они получат удовольствие без жертвования человеческим качеством».
Исследователи признают, что определение и тестирование дискриминации или предвзятости является сложным и противоречивым вопросом. Но они уверены, что их результат является доказательством потенциальной дискриминации людей в пользу ИИ.
Источник: Futurism