Премия за самые "глупые" ошибки ИИ: кто стал первыми номинантами на AI Darwin Awards

Для номинации на премию кандидаты должны соответствовать ряду критериев. Победителей выбирают с помощью процедуры, включающей публичное голосование, экспертные группы и иногда сами системы ИИ, сообщается на сайте AI Darwin Awards.

"Оригинальная премия Дарвина отмечала тех, кто "улучшил генофонд, удалив из него себя" с помощью поразительно глупых поступков. Ну, знаете что? Люди эволюционировали! Мы настолько развиты, что передали принятие наших плохих решений машинам", — отмечают авторы идеи.

Критерии выдвижения на AI Darwin Awards:

• участие ИИ: кандидат должен привлекать в своей работе передовой искусственный интеллект;
• катастрофический потенциал: решение должно быть настолько недальновидным, что "будущие историки будут использовать его как поучительную историю";
• бонус за гордыню: приветствуются утверждения вроде "Что худшего может произойти?" или "Искусственный интеллект знает, что делает!";
• этические слепые зоны: кандидат игнорирует тревожные предупреждения от специалистов по этике и кибербезопасности;
• амбиции: идеальный номинант подверг опасности не только себя, а стремился к "глобальному влиянию".

Бонусные баллы предусмотрены для тех, чей провал с ИИ попал в заголовки международных газет, вызвал крах рынков или потребовал принятия нового законодательства. Также будут учитываться реакции киберспециалистов, попытки исправить промах ИИ с помощью ИИ и даже тот факт, стала ли ошибка мемом.

Сейчас на сайте AI Darwin Awards уже есть ряд номинантов:

• сеть ресторанов Taco Bell запустила чат-ботов, которые не различили "дополнительный соус" и "дополнительный хаос" (игра слов на английском "extra sause" и "extra chaos");
• адвокат из Австралии подал в суд документы, сгенерированные искусственным интеллектом Claude, содержащие четыре фейковые цитаты;
• компания OpenAI запустила ИИ-модель GPT-5 с системой защиты, которую взломали всего через несколько часов после релиза;
• продюсер Xbox Game Studios Publishing написал, что ИИ поможет "уменьшить эмоциональную и когнитивную нагрузку, которая сопровождает потерю работы" после массовых увольнений из-за ИИ;
• фрилансер-писатель Марко Бускалья опубликовал список рекомендованных книг, существующих только в воображении искусственного интеллекта;
• пользователь Airbnb сгенерировал с помощью ИИ фейковые фото трещины на столике и потребовал $16 000 компенсации;
• Paradox.ai и McDonald's запустили систему найма на базе ИИ, которую взломали паролем 123456.

Фокус также сообщал, что чат-бот с ИИ Gemini от Google начал генерировать сообщения с самоуничижением, обвиняя себя в неспособности выполнить задание.