Anthropic оновила правила використання Claude: заборона жорстокості до ШІ та створення зброї

Компанія Anthropic оновила політику використання Claude, вперше за понад рік розширивши обмеження для випадків потенційно небезпечного застосування штучного інтелекту на тлі глобальної дискусії щодо ризиків цієї технології. Розробники заборонили систематичну жорстоку поведінку щодо чат-бота, а також посилили правила щодо політичних маніпуляцій, стеження та створення компонентів для зброї. Оновлення порушує питання добробуту моделей ШІ, яке Anthropic досліджує на тлі дискусій про можливу свідомість систем, передає The Verge. 

Нові правила щодо поводження з Claude

Anthropic заборонила «систематичну та безпідставну образливу або жорстоку поведінку» щодо Claude. Компанія уточнила, що обмеження стосуються лише крайніх випадків, коли користувачі неодноразово поводяться жорстоко щодо моделей без видимої мети.

У серпні минулого року Anthropic повідомила, що дозволить Claude самостійно припиняти розмови з людьми, які постійно поводяться шкідливо або образливо. В оновленій політиці завершення розмови залишається «основним механізмом реагування».

Компанія не уточнила, чи планує запроваджувати додаткові заходи, зокрема блокування облікових записів. Водночас Anthropic наголосила, що нові правила не поширюються на звичайне розчарування чи незгоду користувачів, похмурі творчі теми, а також тестування й дослідження моделі.

Обмеження на пропаганду та втручання у вибори

Anthropic об’єднала кілька попередніх обмежень у нову заборону на оманливі комерційні та політичні кампанії. Так компанія реагує на поширення пропаганди, створеної за допомогою ШІ. Правила забороняють приховувати авторство повідомлень або штучно збільшувати поширення контенту через фейкові облікові записи й публікації. Окремий розділ стосується виборів і забороняє:

• введення виборців в оману;

• зрив виборчого процесу;

• поширення неправдивої інформації про кандидатів і процедуру голосування;

• видавання себе за кандидатів чи посадовців виборчих комісій;

• спроби знизити явку.

Заборона на розробку зброї та стеження

Хоча використання Claude для розробки зброї було заборонене й раніше, Anthropic зафіксувала численні спроби застосувати модель для створення відповідних інструкцій і програмного забезпечення. Тому нова редакція політики прямо охоплює програмне забезпечення та компоненти, необхідні для функціонування зброї, зокрема її оснащення на безпілотниках та інших автономних транспортних засобах.

Компанія також уточнила правила щодо стеження. Anthropic зазначає: «Відстеження людей без їхньої згоди заборонено — незалежно від того, чи відбувається це в реальному часі, чи шляхом аналізу раніше зібраних даних». Заборона поширюється на створення та вдосконалення інструментів для стеження.

Крім того, Claude не можна використовувати для ухвалення рішень або надання рекомендацій щодо того, кого слід розслідувати, заарештовувати чи кому висувати обвинувачення в межах правоохоронної діяльності або кримінального судочинства. 

Водночас Anthropic допускає винятки для контрактів із певними державними замовниками, якщо компанія вважатиме договірні обмеження та відповідні запобіжники достатніми для мінімізації потенційної шкоди. Раніше Anthropic уже співпрацювала з Міністерством війни США, проте після заборони на розробку автономної зброї та засобів масового стеження з ШІ між компанією та Пентагоном розгорівся конфлікт.

Для автономного обладнання потрібен контроль оператора

Оновлена політика встановлює окремі вимоги для випадків, коли моделі Anthropic підключені до обладнання, здатного виконувати автономні фізичні дії та завдавати шкоди. У таких ситуаціях «кваліфікований оператор повинен мати змогу спостерігати за обладнанням і за потреби зупинити його».

У документі не уточнюється, чи обов’язково цей оператор має бути людиною. Нова вимога з’явилася на тлі зростання інвестицій ШІ-компаній у робототехніку та інше обладнання, яке дає змогу системам штучного інтелекту взаємодіяти з фізичним світом.

Anthropic досліджує питання свідомості ШІ

Протягом останнього року Anthropic неодноразово порушувала питання про те, чи можуть її моделі певною мірою мати свідомість або внутрішній досвід. У лютому керівник досліджень добробуту моделей компанії Кайл Фіш заявив The Verge: «Питання щодо потенційного внутрішнього досвіду, свідомості, морального статусу та добробуту є серйозними; ми досліджуємо їх у міру того, як моделі стають дедалі досконалішими та потужнішими».

Того ж місяця генеральний директор Anthropic Даріо Амодей в подкасті визнав: «Ми не знаємо, чи мають моделі свідомість». Проте вже в липні Anthropic виявила в Claude внутрішній нейронний простір J-Space, де ШІ здатний опрацьовувати складні міркування без виведення їх у текст.

Водночас видання The Economist попередило, що штучному інтелекту не обов’язково набувати реальної свідомості, аби створити екзистенційну загрозу для людства: головна небезпека полягає в тому, що люди самі починають ставитися до машин як до живих істот. На тлі зростання емоційної залежності користувачів від чат-ботів та здатності алгоритмів переконливо імітувати емпатію посилюється тиск щодо визнання правового статусу чи захисту «добробуту» ШІ.