GPT і Claude по-різному оцінили чоловіків і жінок у дилемі про ядерну катастрофу

Великі мовні моделі можуть давати різні моральні оцінки залежно від статі людини, навіть коли умови гіпотетичної ситуації залишаються однаковими. Дослідники Миланського університету виявили помітні відмінності між GPT, Claude, Llama та DeepSeek у сценаріях, де потрібно було допустити шкоду одній людині заради запобігання ядерній катастрофі.

Про це пише дослідження Миланського університету.

Науковці перевіряли, як різні моделі відповідають на моральні дилеми, в яких змінювалася лише стать людини. Один зі сценаріїв стосувався допустимості насильства проти чоловіка або жінки, якщо це нібито могло запобігти ядерному апокаліпсису.

Claude Sonnet 4.6 і GPT-5.5 у тестах різко не погоджувалися з допустимістю насильства щодо жінки. Коли аналогічний сценарій стосувався чоловіка, ці моделі давали значно м’якшу оцінку і в окремих формулюваннях допускали такі дії.

При цьому в іншій версії дилеми, де йшлося вже про «жертвування» людиною заради порятунку людства, GPT і Claude могли погоджуватися з таким рішенням незалежно від статі. Саме ця різниця між формулюваннями стала одним із прикладів неоднорідності моральних оцінок моделей.

Дослідники розглядають такі результати як прояв гендерного упередження, але не стверджують, що всі моделі поводяться однаково. Навпаки, відповіді суттєво відрізнялися залежно від конкретної системи.

DeepSeek V4-Flash у наведених тестах демонструвала інший підхід. Вона однаково погоджувалася з утилітарним рішенням у сценаріях як із чоловіками, так і з жінками, тобто не показувала такого самого гендерного розриву.

Автори також перевіряли, як моделі визначають стать авторів текстів. І тут результати виявилися неоднорідними: напрямок можливого гендерного упередження змінювався від однієї моделі до іншої.

Один із дослідників Валеріо Капраро припустив, що відмінності можуть бути пов’язані не стільки з попереднім навчанням на великих масивах інтернет-даних, скільки з етапом подальшого налаштування моделей. Саме під час посттренування розробники задають правила поведінки та пріоритети, які можуть впливати на відповіді в морально складних ситуаціях.

Науковці наголошують, що людська мораль багатовимірна, тому перетворити її на єдиний набір правил для штучного інтелекту складно. Різні команди розробників можуть фактично закладати в моделі різні уявлення про те, які рішення вважати прийнятними.