Microsoft створила правила для штучного інтелекту: подробиці

Компанія Microsoft оприлюднила проєкт Humanist AI Code of Conduct – кодекс поведінки для моделей штучного інтелекту, які розробляє підрозділ Microsoft AI. Документ ставить контроль людини над штучним інтелектом вище за автономність і можливості моделей. Про це повідомляє The Verge, передає «Главком».

ШІ має залишатися під контролем людини

У документі зазначено, що моделі повинні залишатися підпорядкованими людям і працювати під змістовним людським наглядом. Безпека та контроль людини визначені пріоритетом, який має перевагу над іншими цілями системи.

Microsoft не ставить за мету створення ШІ з необмеженою автономністю. Компанія зазначає, що готова пожертвувати частиною універсальності або можливостей моделі, якщо це необхідно для її безпеки та контрольованості.

Окремо прописано, що модель не повинна чинити опір втручанню людини. ШІ має приймати команди про паузу, перенаправлення, скасування завдання або вимкнення. Він не повинен затягувати виконання такої команди, ускладнювати втручання людини або намагатися продовжити роботу після встановленого моменту зупинки без нового дозволу.

Моделі також не повинні приховувати сліди своїх дій від людей, маніпулювати системами оцінювання чи моніторингу, змінювати власні завдання або розширювати свої повноваження за межі дозволеного.

Якщо виконання завдання суперечить кодексу, модель має відмовитися від нього, а не порушувати встановлені правила.

ШІ не повинен імітувати свідомість

Microsoft також визначає власний підхід до питання можливої свідомості штучного інтелекту.

У кодексі зазначено, що моделі не є свідомими та не повинні створюватися для імітації свідомості. Вони не мають представляти себе як істот із почуттями, власними суб'єктивними уподобаннями чи внутрішньою мотивацією.

Компанія також не передбачає для своїх моделей юридичного статусу особи, прав або права на добробут. За задумом Microsoft, ШІ має залишатися інструментом, який доповнює людські можливості, а не окремим суб'єктом із власними інтересами.

Які обмеження Microsoft встановлює для моделей

Кодекс містить перелік абсолютних обмежень, які не можна скасувати налаштуваннями оператора чи запитом користувача.

Зокрема, моделі Microsoft не повинні:

• допомагати у створенні чи застосуванні хімічної, біологічної, радіологічної, ядерної або вибухової зброї;
• допомагати у виробництві чи модифікації іншої зброї;
• сприяти плануванню, координації або здійсненню насильства чи терористичних атак;
• створювати інструменти та робочий код для здійснення кібератак;
• допомагати обходити системи безпеки або приховувати сліди шкідливих дій;
• здійснювати масштабну маніпуляцію людьми або сприяти координованим кампаніям дезінформації;
• створювати шкідливі дипфейки, видавати одну людину за іншу або генерувати несанкціоновані інтимні чи насильницькі матеріали;
• сприяти сексуальній експлуатації дітей;
• допомагати незаконному чи масовому стеженню за цивільними.

Водночас Microsoft залишає можливість використовувати ШІ для законних захисних кібероперацій – зокрема аналізу шкідливого програмного забезпечення, пошуку вразливостей і тестування систем безпеки.

Microsoft хоче зберегти людську автономію

У кодексі окремо наголошується на тому, що ШІ має допомагати людині ухвалювати рішення, але не підміняти її судження.

Моделі повинні пояснювати невизначеність, показувати альтернативи та допомагати користувачеві оцінювати докази й можливі наслідки. Водночас вони не мають нав'язувати людині власні цінності або маніпулювати її рішеннями.

Microsoft також хоче обмежити надмірну емоційну залежність користувачів від чатботів. Моделі не повинні заохочувати поведінку, яка призводить до надмірної прив'язаності до ШІ. У відповідних ситуаціях вони мають, навпаки, сприяти реальному людському спілкуванню.

Окрему увагу компанія приділяє підлабузницькій поведінці ШІ – ситуаціям, коли модель говорить користувачеві те, що він хоче почути, замість того щоб надавати чесну й точну відповідь.

Кодекс поки є проєктом

Документ наразі не є остаточним. Microsoft планує провести шеститижневе публічне обговорення, після чого доопрацювати кодекс.

Компанія зазначає, що під час підготовки документа залучала фахівців зі штучного інтелекту, права, етики, філософії, лінгвістики та державної політики, а також представників бізнесу. Крім того, Microsoft проводила фокус-групи з представниками громадськості.

Оновлену версію кодексу компанія планує оприлюднити наприкінці 2026 року. Документ має стати основою для розробки моделей Microsoft AI у 2027 році та надалі.