"Премия Дарвина" для искусственного интеллекта: новая награда высмеивает самые большие провалы года

Появилась новая "Премия Дарвина" в сфере искусственного интеллекта, которая призвана отмечать наиболее необдуманное или опасное использование технологий, сообщает EuroNews. Организаторы заявляют, что награда присуждается не самим алгоритмам, а людям, которые применяли их "со всей осторожностью малыша с огнеметом".

Премия не связана с известной шуточной Darwin Awards, отмечающей людей, погибших абсурдными способами. В случае с искусственным интеллектом цель — "вознаградить" компании или разработчиков, которые проигнорировали очевидные предупредительные знаки и допустили "исключительную ошибочную оценку" перед выходом продукта на рынок.

Дополнительные баллы начисляются номинантам, чьи решения попали в заголовки мировых медиа, вызвали чрезвычайные ситуации или даже создали новые направления исследований в сфере безопасности искусственного интеллекта.

Организаторы остались анонимными, однако сообщили, что частично будут проверять номинации с помощью больших языковых моделей — ChatGPT от OpenAI, Claude от Anthropic и Gemini от Google. Алгоритмы будут выставлять оценку правдивости истории по десятибалльной шкале, после чего администраторы вычислят "золотую середину" и объявят результат. Если средний балл превысит пять, история будет считаться проверенной и сможет претендовать на награду.

Среди первых номинантов — компания McDonald's, которая создала чат-бота "Оливию" для поиска работы. Система была защищена элементарным паролем "123456", что привело к утечке данных 64 миллионов претендентов на работу.

Еще одним претендентом на вознаграждение стала OpenAI за запуск своей последней модели GPT-5. Французский специалист по обработке данных Сергей Березин заявил, что смог заставить модель выполнять вредоносные инструкции, не используя при этом прямых опасных команд.

Голосование за победителей продлится в январе, а результаты объявят в феврале. Единственный приз для лауреатов — "бессмертное признание их вклада в понимание того, как не следует применять искусственный интеллект". Организаторы надеются, что награда станет предупреждением и мотивирует компании тщательнее тестировать ИИ-системы перед их внедрением.

Ряд мировых компаний оказались в центре скандалов из-за опасных сбоев и неконтролируемого поведения чат-ботов. Это подпитало дискуссии о необходимости более жесткого регулирования технологий.