Google відмовилася від обіцянки не використовувати ШІ для створення зброї: що відомо

У вівторок, 4 лютого, компанія Google оновила свої етичні принципи щодо штучного інтелекту (ШІ), відмовившись від зобов'язання не застосовувати цю технологію як зброю або засіб спостереження. Про це пише The Washington Post.

Раніше принципи Google щодо ШІ містили розділ, де перераховувалися галузі, в яких компанія не буде розробляти або впроваджувати ШІ. Згідно з копією, розміщеною в онлйн-архіві Wayback Machine, цей розділ складався з чотирьох пунктів:

• технології, які завдають або можуть завдати загальної шкоди;
• зброя або інші технології, основною метою або застосуванням яких є заподіяння або безпосереднє сприяння заподіянню шкоди людям;
• технології, що збирають або використовують інформацію для спостереження, які порушують загальноприйняті міжнародні норми;
• технології, мета яких суперечить загальноприйнятим принципам міжнародного права і прав людини.

Станом на 5 лютого на сайті відсутній цей розділ. Представник Google відмовився відповідати на запитання журналістів про політику компанії щодо зброї та стеження, але послався на звіт, опублікований у вівторок главою підрозділу ШІ компанії Демісом Гассабісом та її старшим віцепрезидентом із технологій і суспільства Джеймсом Маньікою.

У звіті йдеться про те, що Google оновлює свої принципи щодо ШІ, оскільки у світі триває глобальна конкуренція за лідерство в галузі ШІ в умовах дедалі складнішого геополітичного ландшафту, яка породила необхідність у компаніях, що базуються в демократичних країнах і обслуговують клієнтів зі сфери уряду та національної безпеки.

"Ми вважаємо, що демократії повинні лідирувати в розробці ШІ, керуючись такими основними цінностями, як свобода, рівність і повага до прав людини. І ми вважаємо, що компанії, уряди та організації, які поділяють ці цінності, повинні працювати разом, щоб створити ШІ, який захищає людей, сприяє глобальному зростанню і підтримує національну безпеку", — заявили Гассабіс і Маньіка.

В оновленій версії принципів Google щодо ШІ йдеться про те, що компанія використовуватиме людський нагляд і прийматиме зворотний зв'язок, щоб гарантувати, що її технологія використовується відповідно до "загальноприйнятих принципів міжнародного права і прав людини". Крім того, компанія обіцяє тестувати свою технологію, щоб "пом'якшити ненавмисні або шкідливі наслідки".

Нагадаємо, інженер, відомий у мережі під псевдонімом STS 3D створив роботизовану гвинтівку, яка працює на основі чат-бота зі штучним інтелектом ChatGPT від компанії OpenAI. За словами представника OpenAI, розробника повідомили, що він порушив політику компанії, а також закликали "припинити цю діяльність".

Раніше, глава Стратегічного командування США генерал Ентоні Коттон заявив, що система ядерного командування, управління і зв'язку потребує модернізації для підвищення стійкості до нових загроз, зокрема за рахунок впровадження ШІ та машинного навчання.